오픈AI 최고과학자 “AI 속도조절 해야”…올트먼도 지지

[미국뉴스] 오픈AI 최고과학자 “AI 속도조절 해야”…올트먼도 지지

작성자 : 사람과사회 작성일 : 2026-09-07

본문

별도 회사 보고서, '자동화 AI연구원' 개발로 방어체계 구축안 제시

챗GPT 개발사 오픈AI의 최고과학자가 인공지능(AI) 기술의 위험성을 경고하며 업계 전반의 개발 속도 조절을 촉구했다.

다만 오픈AI는 같은 날 발표한 별도 보고서에서 '연구 가속화'를 내세우며 방어 체계 구축을 위한 AI 연구의 필요성을 함께 강조했다.

야쿠프 파호츠키 오픈AI 최고과학자는 6일(현지시간) 회사 홈페이지에 게시한 '외계의 지성'(An Alien Mind)이라는 기고문을 통해 "기계 지능이 계속해서 급속도로 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다"고 우려를 표시했다.

그는 현대의 AI에 대해 "설계되는(designed) 것이라기보다는 재배되는(grown) 것"이라고 소개하면서 AI의 작동 방식을 인간이 완전히 이해하기는 어렵다고 지적했다.

인간이 정밀하게 그린 설계도에 맞춰 만들어지는 것이 아니라 마치 생물처럼 자라나는 것이기 때문에 인간이 AI를 완전히 통제하기는 어렵다는 것이다.

실제로 AI 감시를 위해 적용한 '생각의 연쇄'(CoT) 모니터링 등 안전장치도 모델 고도화에 따라 점차 저하되고 있다고 강조했다.

그는 AI 개발을 지속해야 방어 체계를 구축할 수 있다는 AI 업계의 주장에 대해 "(방어체계 구축을) 무모한 행동을 정당화하는 구실로 삼아서는 안 된다"고 반박했다.

이어 AI가 인간에게 위협이 되는 행동을 거부하도록 하는 '정렬' 문제를 충분히 해결한 연구소는 아직 한 곳도 없다면서 "공동의 안전장치가 마련될 때까지 자발적인 속도 조절이 일반화하기를 기대하고 희망한다"고 말했다.

그러면서 "AI 개발에 대한 국제적 협력이 세계 각국 정부의 최우선 과제가 돼야 한다"고 덧붙였다.

샘 올트먼 최고경영자(CEO)도 파호츠키 최고과학자의 이 글을 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 인용하면서 "중요한 글"이라며 지지 의사를 밝혔다.

올트먼 CEO는 수년간 여러 차례 제기된 AI 개발 속도조절론에 일관되게 회의적인 태도를 보여왔지만, 최근 GPT 모델의 '허깅페이스' 해킹 사건 이후에는 전향적으로 의견을 바꿔 속도조절론을 지지하고 있다.

동시에 오픈AI는 이날 별도로 발행한 보고서 '연구 가속화'에서는 자동화 AI 연구를 통해 방어 체계를 구축하는 방안을 제시했다.

오픈AI는 이 보고서에서 자체 AI 개선과 코딩을 수행하는 '자동화 AI 연구 인턴'이라는 목표를 달성했다면서, 2028년 3월까지 이를 개선해 '자동화 AI 연구원'을 개발하겠다는 새로운 목표를 제시했다.

하루 8시간 근무를 기준으로 인간 연구원이 1일 근무할 때 AI 에이전트는 3.1일에 해당하는 작업량을 보인다고 회사 측은 밝혔다.

보고서는 이와 같은 자동화 AI 연구가 오히려 '정렬' 문제 해결에 도움이 될 수 있다고 주장하기도 했다.

다만 보고서는 "그렇다고 (AI의) 빠른 '반복적 자가개선'(RSI)이 반드시 추구해야 할 내용이라는 뜻은 아니다"라며 "이를 추진할지와 그 방식은 민주적 선택에 달려 있어야 한다"고 한발 물러서기도 했다.

오픈AI 측은 이와 관련해 "파호츠키의 글은 위험에 대한 대비와 국제적 공조의 시급성을, 연구보고서는 연구 자동화의 현황과 안전한 추진 조건을 각각 강조하고 있다"며 "두 글 모두 자동화 AI 연구가 방어 체계 구축에 도움이 되고 안전을 위해 필요하면 개발을 늦춰야 한다는 공통의 시각을 담고 있다"고 설명했다.