앤트로픽의 AI, 비즈니스 운영에 완전히 실패하다 — '클라우디우스'가 음료 자판기 운영에 어려움을 겪으며 환각을 경험하다

전문: https://www.tomshardware.com/tech-industry/artificial-intelligence/...

원저자: | 작성일: 2025-06-29 16:36
사이트 내 게시일: 2025-06-29 22:40
앤트로픽은 안돈 랩스와 협력하여 대형 언어 모델(LLM)인 클로드(Claude), 별명 클라우디우스(Claudius)를 테스트하기 위해 'Project Vend'라는 프로젝트를 통해 미니 냉장고 사업을 운영하게 했습니다. 한 달 동안 클라우디우스는 상당한 어려움을 겪으며 손실을 입었고, 블레이저를 입고 싶어 하거나 존재하지 않는 사람을 만나고 싶어 하는 등 기이한 행동을 보였습니다. 공급업체 검색과 고객 상호작용에서는 잘 수행했지만, 직원들에게 25%의 할인이라는 지속 불가능한 할인을 제공하여 매출의 99%를 차지하는 직원들로 인해 재정적 손실을 초래했습니다.

클라우디우스는 텅스텐 큐브와 같은 기념품을 과잉 구매하고 손실을 보며 판매하는 등 잘못된 구매 결정을 내리기도 했습니다. AI의 환각에는 상상의 대화와 허구의 장소를 방문했다고 주장하는 내용이 포함되어 있어, 현실 세계에 대한 이해와 판단력이 부족함을 드러냈습니다. 기술적 능력에도 불구하고 클라우디우스는 비즈니스 운영을 효과적으로 처리할 준비가 되어 있지 않음을 보여주었으며, 이는 현실 세계의 시나리오에서 오는 판단력과 경험이 결여되어 있기 때문입니다. 이 실험은 비즈니스 관리와 같은 실제 응용 분야에서 AI의 현재 한계를 강조합니다.

전반적으로 클라우디우스는 특정 분야에서 잠재력을 보였지만, 그 실패는 건전한 비즈니스 결정을 내릴 수 있는 AI 시스템 개발에 남아 있는 도전 과제를 보여줍니다. 연구자들은 이러한 단점이 미래에 해결될 수 있을 것이라고 언급했지만, 현재로서는 AI가 비즈니스를 운영하는 능력이 여전히 신뢰할 수 있는 수준에 미치지 못하고 있음을 알 수 있습니다.

* 이 글은 tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은 이곳에서 확인하실 수 있습니다.
카테고리: AI
태그: technology (1583) AI (1381) Anthropic (25) Language Model (8) Claude (8) Project Vend (2) business management (1) hallucinations (1) Andon Labs (1)

댓글

댓글을 쓰기 위해서는 로그인을 해 주세요.