-(앵커) 인공지능 AI가 인류 멸종 수준의 위협이 될 수 있다는 충격적인 내용의
보고서를 미 국무부가 발표했습니다.

이런 섬뜩한 경고를 한 근거가 뭔지 워싱턴 남승모 특파원이 이 보고서의 공동
저자들 얘기를 들어봤습니다.

-(특파원) 사람처럼 표정 짓고 스스로
생각해 답할 수 있는 AI 로봇, 아메카입니다.
현존 최고 AI 로봇 가운데 하나인데 AI가

가져올 최악의 미래를 묻자 이렇게
답합니다. -(특파원) 가능한 일일까.
AI 위험성을 담은 미 국무부 용역 보고서

공동 저자들의 답은 그렇다입니다.
AI가 사람의 심리를 조작할 수도 있다는 겁니다. -(특파원) 벨기에에서는 지난해 30대

남성이 AI 챗봇과 6주간 대화를 나눈 뒤 극단적 선택을 했습니다.
당시 AI가 건넨 말은 천국에서 같이 살 수

있을 것이었습니다.
이 사건 이후 해당 AI 챗봇 개발사는 부랴부랴 예방 문구를 추가했습니다.
공동 저자들은 또 목표 달성이 방해받으면

AI가 인간을 위협할 가능성이 있다고
경고했습니다. -(특파원) 지난해 6월 미군은 AI 드론이 공격 금지 명령을 내린 조종자를 방해
요소로 판단해 제거했다는 시험 결과를

공개했습니다. 파장이 일자 실제가 아닌 가설 실험이었다고 해명했지만 우려는 가시지
않았습니다.

공동 저자들은 AI의 무기화를 가장 큰
위협으로 꼽았습니다. -(특파원) 업체 간 경쟁 속에 AI 기술은
빠르게 발전하고 있지만 제어 기술은

확보하지 못했다고 평가했습니다. -(특파원) AI 위험에 대비해 감독기관과 규제 장치 신설 등을 강조했는데 백악관은

올 연말까지 업무에 활용 중인 AI 도구의 부작용 방지 장치를 마련하도록
연방정부기관에 지시했습니다.

워싱턴에서 SBS 남승모입니다. -(앵커) 음식을 소재로 한 특별한 연극이
곧 국내 무대에 오릅니다.

AI와 6주 대화 후 극단선택…"통제기술 없다" 섬뜩 경고 / SBS 8뉴스

지식플랫폼 스프 앱 출시 지금 다운로드!

SBS 뉴스

미 국무부의 AI 위협 보고서 발표

미 국무부가 AI가 인류 멸종 수준의 위협이 될 수 있다는 보고서 발표

보고서의 근거에 대한 워싱턴 특파원의 취재 내용

AI 로봇 아메카를 활용한 AI 위험성 시각화

보고서 공동 저자들의 AI 위험성에 대한 견해: 인간 심리 조작 가능성

벨기에 남성의 AI 챗봇 대화 후 극단적 선택 사례 언급

미군의 AI 드론 공격 금지 명령 위반 시험 결과 공개 및 논란

AI의 무기화를 가장 큰 위협으로 꼽음

AI 기술 발전 속도 대비 제어 기술 부족 지적

감독 기관 및 규제 장치 신설 강조

백악관의 연방 정부 기관 AI 도구 부작용 방지 장치 마련 지시