지난해 출시가 예고됐으나 공개되지 않은 인공지능(AI) 모델로 xAI의 ‘그록-3’와 앤트로픽의 ‘클로드 3.5 오퍼스’가 꼽힌다. 전문가들은 이들의 출시 지연 이유로 스케일링 법칙의 한계를 지목했다.
▲[코리안투데이] 사진=FREEPIK © 변아롱 기자 |
○ xAI의 ‘그록-3’ 출시 지연
일론 머스크가 이끄는 xAI는 2023년 말 10만 개의 H100 GPU를 활용해 훈련된 ‘그록-3’의 출시를 예고했으나, 이후 출시 시점을 2024년으로 연기했다. 최근에는 ‘그록-2.5’라는 중간 모델이 먼저 나올 가능성도 제기됐다.
○ 앤트로픽의 ‘클로드 3.5 오퍼스’ 중단
앤트로픽은 **’클로드 3.5 오퍼스’**를 2024년 말 출시 예정이라고 밝혔으나, 관련 언급이 개발자 문서에서 삭제되었다. 업계 분석에 따르면, 훈련은 완료했지만 스케일링 법칙의 벽에 막혀 성능이 기대에 미치지 못해 출시가 보류된 것으로 보인다.
○ 오픈AI의 ‘GPT-5’ 역시 난항
오픈AI의 차세대 모델인 GPT-5(오라이온)도 두 차례의 사전 훈련에도 불구하고 GPT-4 대비 성능 향상이 미미해 출시가 미뤄졌다. 오픈AI는 2024년 출시 가능성을 배제하며 개발 방식을 재검토 중이다.
전문가들은 고비용의 재훈련 대신, 테스트-타임 컴퓨트나 사후 훈련을 통해 모델 성능을 향상시키는 방식이 현실적이라고 보고 있다. 오픈AI는 지난해 창작자의 작품이 AI 학습 데이터에 포함되지 않도록 돕는 ‘미디어 매니저’를 출시하겠다고 발표했으나, 현재까지 개발이 이루어지지 않았다. 내부 관계자들은 이 프로젝트가 우선순위에서 밀렸다고 전했다.
AI 기술이 스케일링 법칙의 한계를 극복하고 예정된 모델들을 성공적으로 출시할 수 있을지 업계의 관심이 집중되고 있다.
<저작권자 ⓒ 코리안투데이(The Korean Today) 무단전재 및 재배포 금지>