새 AI 모델 훈련 시작 및 안전 강화
오픈AI가 차세대 인공지능 모델 ‘GPT-5’의 훈련을 시작했다고 발표했다. 더불어, 90일 간의 활동을 펼칠 ‘안전 및 보안 위원회’를 출범하여 새 모델 출시 전 안전성을 강화할 예정이다.
오픈AI는 28일(현지시간) 블로그를 통해 “차세대 프론티어 모델의 훈련을 최근 시작했다”고 밝혔다. 이는 AGI(일반인공지능)로 나아가는 중요한 단계로 평가된다.
 [코리안투데이] 오픈 AI GpT5 (AI 생성이미지) © 김미영 기자 |
기업 테스트 및 안전 평가 진행 중
비즈니스 인사이더에 따르면, 일부 기업들은 이미 지난 3월 GPT-5 테스트 버전을 제공받았으며, 한 CEO는 “정말 좋다”는 평가를 남겼다. 이로 미루어 모델의 사전 훈련은 완료된 상태로 보이며, 레드팀 테스트 및 기업 테스트만 남은 상황이다.
오픈AI는 이번 발표에서 새로운 모델과 미래 기술이 제기하는 위험을 다루기 위해 ‘안전 및 보안 위원회’를 구성했다고 밝혔다. 위원회는 향후 90일 동안 오픈AI의 개발 과정과 보호 장치를 평가하고, 부족한 부분을 추가로 개발하는 임무를 맡는다.
안전성 강화 및 승인 절차
새 모델 훈련 동안 위원회는 기술 보호를 위한 정책과 프로세스를 다듬어 이사회 승인을 받을 계획이다. 지난해 12월 샘 알트먼 CEO가 복귀하면서 이사회 승인 없이 새 모델을 출시하지 않겠다고 선언한 바 있다.
위원회는 브렛 테일러 전 세일즈포스 공동 CEO가 이끌고, 애덤 디앤젤로 쿼라 CEO, 니콜 셀리그먼 소니 엔터테인먼트 전 회장, 샘 알트먼 오픈AI CEO 등 내부 직원 6명이 포함되어 있다. 외부 전문가와도 접촉 중이다.
안전 문제 대응
이번 조치는 최근 모델 안전을 담당하던 초정렬팀 해체와 스칼렛 요한슨 목소리 도용 문제 등으로 인해 오픈AI의 안전 문제에 대한 우려가 커진 가운데 나온 것이다. 오픈AI는 “우리는 업계 최고인 모델을 개발하고 출시할 예정이지만, 이 과정에서 치열한 논쟁도 환영한다”고 밝혔다.
<저작권자 ⓒ 코리안투데이(The Korean Today) 무단전재 및 재배포 금지>
