태그: LLM

중국의 주요 CPU 제조업체인 자오신(Zhaoxin)은 전체 프로세서 라인업에 DeepSeek의 LLM 통합을 발표하며, 1.5B, 7B, 14B, 32B, 70B, 671B 파라미터를 포함한 다양한 모델에 대한 네이티브 지원을 가능하게 했습니다. 이는 중국 기술 …

2025-02-25 15:56 | 댓글: 0개

이 기사는 Binh Pham이 Raspberry Pi Zero를 활용하여 USB 스틱에서 로컬 대형 언어 모델(LLM)을 실행하는 프로젝트에 대해 다룹니다. 이 프로젝트는 클라우드 기반 솔루션에서 벗어나 로컬 LLM 사용의 증가 추세를 반영합니다. …

2025-02-17 20:10 | 댓글: 0개

AMD는 AI 가속 Ryzen CPU와 Radeon GPU에서 DeepSeek R1 AI 모델을 실행하기 위한 상세한 지침을 발표했습니다. 이를 통해 사용자는 이 고급 사고 모델을 자신의 PC에서 로컬로 실행할 수 있습니다. 호환성은 …

2025-01-29 18:25 | 댓글: 0개

중국의 오픈소스 대형 언어 모델(LLM)인 DeepSeek R1이 OpenAI의 모델보다 우수한 성능을 보이며 주목받고 있습니다. 패트 겔싱어 전 인텔 CEO는 교회를 위한 AI 기반 챗봇 'Kallm' 개발에 집중하는 스타트업 Gloo를 위해 …

2025-01-29 18:00 | 댓글: 0개

1월 27일, 화웨이는 Ascend 데이터 센터 GPU에 최적화된 증류된 R1 AI 모델을 ModelArts Studio 플랫폼을 통해 무료로 제공한다고 발표했습니다. 화웨이는 어떤 Ascend GPU가 사용되는지 명시하지 않았지만, 업계 전문가들은 최신 Ascend …

2025-01-29 15:00 | 댓글: 0개

엔비디아의 주가는 1월 27일 주당 118.50달러로 급락하며 개장가 142.02달러에서 거의 17% 하락했습니다. 이로 인해 5,890억 달러 이상의 시가총액 손실이 발생했습니다. 이는 역사상 어떤 회사의 단일일 최대 손실로 기록되며, 나스닥도 3.1% …

2025-01-28 12:20 | 댓글: 0개

OpenVINO 2024.5의 출시로 인텔의 중요한 최적화가 도입되어 대형 언어 모델(LLM) 및 생성적 인공지능(GenAI) 애플리케이션의 성능이 향상되었습니다. 이번 버전은 복잡한 모델을 다루는 개발자에게 중요한 AI 추론 작업의 효율성과 속도를 개선하는 데 …

2024-11-20 13:34 | 댓글: 0개

레드햇이 오픈소스 AI 역량을 강화하기 위해 뉴럴 매직을 인수했다고 발표했습니다. 특히 UC 버클리에서 개발한 vLLM 프로젝트를 통해 이루어지는 이번 인수는 생성적 AI를 위한 모델 서빙에 중점을 둔 오픈소스 이니셔티브입니다. vLLM은 …

2024-11-12 13:26 | 댓글: 0개

AMD는 다양한 응용 프로그램을 위해 설계된 첫 번째 완전 오픈 소스 10억 매개변수 대형 언어 모델(LLM) 시리즈인 AMD OLMo를 출시했습니다. 이 모델은 AMD의 Instinct MI250 GPU에서 사전 훈련되었으며, 강력한 추론, …

2024-11-06 11:55 | 댓글: 0개

AMD는 AI 지원 애플리케이션과 대형 언어 모델(LLM)을 위해 특별히 설계된 Strix Point APU를 소개했습니다. 인텔의 루나 레이크 칩과의 직접 비교에서 AMD는 자사의 프로세서가 처리 속도뿐만 아니라 빠른 응답 시간이 필요한 …

2024-11-02 05:00 | 댓글: 0개

AMD는 자사의 라이젠 AI 300 시리즈(코드명: Strix Point)가 인텔의 코어 울트라 200V 시리즈(코드명: Lunar Lake)보다 소비자 LLM(대형 언어 모델) 작업에서 상당히 우수한 성능을 발휘한다고 발표했습니다. 벤치마크 결과에 따르면, 라이젠 AI …

2024-11-01 15:31 | 댓글: 0개

AMD의 Strix Point APU는 AI 대형 언어 모델(LLM) 애플리케이션에서 Intel의 Lunar Lake 프로세서에 비해 상당한 성능 우위를 보여주었습니다. Ryzen AI 9 HX 375 프로세서는 Intel의 Core Ultra 7 258V에 비해 …

2024-11-01 07:10 | 댓글: 0개

OpenAI는 Broadcom 및 TSMC와 협력하여 첫 번째 사내 맞춤형 AI 칩을 개발하였으며, 이는 추론 능력을 향상시키기 위한 것입니다. 이 전략적 결정은 OpenAI가 외부 파트너에 대한 의존도를 줄이고 사내 칩 설계로 …

2024-10-31 21:24 | 댓글: 0개

AMD의 Ryzen AI 300 시리즈 모바일 프로세서는 최근 AMD가 실시한 테스트에서 인텔의 모바일 제품보다 로컬 대형 언어 모델(LLM) 성능에서 우수한 결과를 보였습니다. 이 테스트는 LLM을 로컬에서 다운로드하고 호스팅하기 위해 설계된 …

2024-10-30 13:59 | 댓글: 0개

인텔은 AI 시장에서 전략을 변경하여 NVIDIA와 직접 경쟁하지 않기로 하고, 대신 새로운 가우디 3(Gaudi 3) AI GPU를 통해 비용 효율적인 AI 솔루션에 집중하고 있습니다. 인텔은 NVIDIA와의 원시 컴퓨팅 파워 경쟁이 …

2024-10-17 20:11 | 댓글: 0개

NVIDIA는 오픈 소스 대형 언어 모델(NVLM-D 1.0)을 출시하며 AI 분야에서의 지배력을 강화하고 있습니다. 이 모델은 720억 개의 매개변수를 자랑하며, OpenAI의 GPT-4 및 Meta의 라마 3-V(4050억 개 매개변수)와 경쟁할 만한 성능을 …

2024-10-02 20:14 | 댓글: 0개

Ugreen이 IFA 2024에서 두 가지 새로운 NAS 모델인 iDX6011과 iDX6012를 공개했습니다. 이 제품들은 2025년 1분기에 출시될 예정입니다. 이 NAS 시스템은 운영 체제에 통합된 로컬 대형 언어 모델(LLM)을 실행하도록 설계되었지만, Ugreen은 …

2024-09-06 18:40 | 댓글: 0개