[Applause] 네, 안녕하세요. 저는 정보통신정책 연구원 디지털사회전략연구실의 문정국입니다. 오늘 이렇게 뜻깊고 중요한 이슈를 논의하는 자리에 초청해 주셔서 다시 한번 감사드립니다. 사실 마지막 발표이자 마지막 토론이라 어렵습니다. 앞에서 좋은 말씀을 많이 해주셨고, 차별성 있는 말씀을 드려야 하며, 시간 관리도 해야 합니다. 앞서 시간이 조금 연장되었으니 제가 줄여야 하고, 혹은 앞서 발표가 짧았다면 제가 내용을 늘려야 하는데, 앞선 연사분들이 시간을 잘 맞춰주셔서 다행입니다. 저는 25분이 주어진 걸로 알고 있습니다. 그래서 타이머를 맞추고, 여기 계신 분들의 퇴근도 고려해야 합니다. 윤리 연구하면서 퇴근 시간도 고민해야죠.

되잖아요. 그래서 그렇게 해서 맞춰서 진행을 하도록 하겠습니다. 이제

맞출게요. 예, 저희는 그 키스는 사실

여기 지금 뭐 잘 모르시는 분들도 계실 수 있을 것 같아서 간략하게

말씀드리면, 어쨌든 국책, 경국이

아닙니다. 디지털 정책을 총괄하면서

연구를 하고 있고요. 어, 특히 이제 뭐

저희 디지털 사회 전략 연구실 같은

경우에는 조금 어려워요. 그러니까 이 AI,

뭐 디지털 신기술 이렇게 나오면 이제

다른 편에서는, 다른 연구실에서는 막 인공지능 육성 이런 거 이제 연구하는데,

저희는 이제 거기에 나오는 부작용, 역기능, 부정적 효과 이런 거를 어떻게

완화하거나 또 예방하거나 하는 그런 정책들을 이렇게 개발을

하면서 그런 연구를 하거든요. 그래서 저희도 막 좀 어떻게 보면 막

음지에서 하고 있는 것 같다, 약간 그런 느낌도 있는데요. 그럼에도

불구하고 너무 어, 그런 특히 뭐 윤리

정책이라 신뢰성 정책, 뭐 이런 것들

되게 중요하다고 생각을 하고요, 그런 연구를 하고 있다 말씀드립니다. 어...

제가 오늘은 그 앞서 우리 연사님들께서 발표를 많이 해주셨는데요,

AI 관련된 이제 윤리적 이슈에 대해서 간략하게 조금, 뭐 몇 가지

사례를 좀 말씀드리고요, 그렇다면

이런 윤리적 이슈를, 그러니까 뭐 그런

부정적 기능, 그런 부정적 효과를 어떻게 방지하거나 완화하기 위해서

그런 우리나라 정부 단에서는 뭐 어떤

정책을 이렇게 하고 있는지에 대해서 말씀드리고요, 뭐 그런 것들을 좀

공유한 다음에, 그럼 향후 인공지능 윤리 정책은 어떤 방향으로 나아가야

될지에 대해서 좀 간략하게 말씀드리도록 하겠습니다. 아, 윤리적

이슈입니다. 사진들 다 많이 보셨을 거예요. 윤리 관련된 세미나가 있으면

다 있었던 내용들인데요. 저 오른쪽에

있는 사진은 저 펜타곤, 미국방부

건물이죠. 옆에 폭탄, 폭탄이 떨어져서 불이 나는

건데 이 가짜 deepfake 이용 가짜 사진입니다. 이게 SNS 타고 막

세계적으로 급속하게 공유가 됐었죠. 그래서 거기

연동돼서 뉴욕 증시가 출렁이는 그런

상황도 있었고요. 가운데 사진은요, 이것도 실제로 있었던 작년 5월인데

이거 중국 사례예요. 친구가 친구한테

영상 통화가 오는 거예요.  '아, 누구야?' 했더니 '지금 급해서 그런데 이래저래 해서… 돈 좀 빌려줘' 그래서

왔으니까 당연히 베스트프렌드, 절친이면

요구를 했었는데 이래저래 해서 결론적으로 한 1.2억 정도를 아마

이렇게 피싱을 당했던, 피싱 사기가

발생한 거고요. 요것도 이제 할리우드 작가, 배우들의 동반 파업입니다. 왜

그랬냐면 AI, AI 기반으로 해 가지고 어, 대본도 쓰고 그다음에 AI

막 영상 합성해 가지고 뭐 영화 배우의 인물도 막 이렇게 쓰고 이러다 보니까 뭐 일자리, 자기 일들이 막 줄어들잖아요. 그래서 아마 대표

맷 데이먼이 아마 유명한 배우죠. 주측이

돼서 여러분들 이렇게 해 가지고 이렇게 파업한 경우도

있었고요. 저쪽에 보다 아시는 가수죠,

테일러 스위프트. 되게 유명한 가수인데 올 초 저 가수 사진과 음란한

사진이 이렇게 합성돼 가지고 또 유포돼 가지고 상당히 고초를 치렀던

것들이 있고요. 가운데도 그런 겁니다. 저 가운데 이제 두 번째 사진은 음성인데,

아, 한창 경선이 있을 때 그 가짜 음성이 이제 조 바이든 대통령 음성이

돌면서 경선 참여하지 마십시오, 뭐 이런 것도 있었고. 뭐 요것도 이것도 비슷한

시기에 있었던 건데 이제 또 대통령의

그런 허위 조작된 그런 영상이 돌기도

했었고요. 이것도 최근, 작년 5월,

달, 5월 달에 그 오픈에서 이제 야심 차게 그 음성 서비스를 했는데,

거기 목소리가 아마 영화 <허> 보셨을

거예요. 거기에서 이제 음성을 지원했던 게 배우잖아요. 근데 그

목소리가 되게 유사한 그런 게 있어 가지고 여기서 이제 문제 제기를 했고

제가 또 어제 밤에 자료를 또 바꿨습니다. 어제 또 기사가 이

인공지능 윤리가 참 어려워요. 연구하기

하루하루마다 새로운 막 이슈와 사건들이 터져 가지고 어제는 심지어

이제 그 오픈에서 음성 서비스를 잠깐, 한 달 정도 뒤에 어쨌든 그

보안 수정한다, 뭐 이런 걸 좀 발표해서 아마 지금은 이제 잠깐

중단되어 있고요. 한 달 뒤쯤에 다시

한번 출시를 한다 정도 되어 있는 거 같습니다. 아, 이렇듯 요거는 이제 제가

정리한 거 아니고 저희가 같이 이제 연구진에서 정리를 했던 자료인데요. 이렇게 인공지능 기술 활용

확산에 따라서 어 다양하게 이런 윤리적인 이슈, 데이터 편향, 차별, 개인

정보, 치매, 사생활, 치매, 또 아까 우리

판사님 강조하셨던 인권, 치매, 또 이런

선거에서 막 이렇게 나오는 그런 정치적 혼란, 또 투명하지 않은 것들, 기술적인 오류, 그리고 또 안전성이 미흡한 이런 문제들, 그리고

무엇보다도 안전성이 되게 중요하다고 생각을 하는데요. 그런

자동화된 의사 결정이 사람, 경제, 산업, 정치, 문화에 미치는 영향들을 연구하면서 들여다보고 있는 내용입니다. 유수의 국제 기구 대표나 학자들이 우려를 표명하고 있죠. UN 사무총장 같은 경우에는 인공지능을 관리하는 국제 기구를 만드는 것에 동참하자는 의견도 내고 있고요.

여러 국가의 주요 보직에 있는 분들이 그런 언급을 하고 있는데요. 석학들, 예를 들어 오늘 연사 분들도 전문가신데, 제프리 린튼 교수나 하라리, 러셀 교수님 등은 인공지능의 잠재적 위험과 역기능을 강조하고 있는 분위기입니다.

그런 차원에서 인공지능 윤리와 신뢰 강화가 정말 필요합니다.

필요하다 말씀드리고요. 하지만 아까도 계속 논의가 되긴 했지만, 그런

기술의 혜택과 위험을 동시에 고려하는 균형 잡힌

윤리 정책 마련이 필요하다, 이런 생각을 갖고 있고요. 물론 잠재적

위험성이 존재하지만, 그렇다고 아예 쓰지

않을 거냐는 게 어려운 상황이지

않습니까? 그러다 보니까 개발 중단이나 아예 전면 금지가 아닌, 최소한의 규제책 마련이 더

중요하다, 이런 생각을 하고 있고요. 그 윤리적 접근이 왜 필요하냐에 대해서도

말씀드리면, 이 제 개정이 경직된

경성적인 접근으로 있으면은, 아까도 말씀드렸지만 내일

당장 또 무슨 기사가 어떻게 나올지,

어떤 기술이 나올지 몰라요. 이게 과연

따라갈 수 있을까요? 그리고 또 하나 중요한 건, 아까 말씀드린

사회적 합의 부분이 있잖아요. 이걸로 책임을 누가 질지,

무슨 사고가 났을 때 책임 질지, 이런

분들에서 분명히 사적 합의가 필요한 거거든요. 근데 아직까지는 그 단계는

아니기 때문에 여전히 지금 현재 기술

수준, 그다음에 사회적 합의 수준 이런 걸 고려했을 때는 연성적 접근이 맞지

않겠느냐, 더 나아가서 자율 규제

체계로 가는 게 맞지 않겠느냐라는

생각을 하고 있습니다. 그러면 이런 문제들에 대해서

그러면 우리 정부, 그리고 공공, 그리고 또 기업, 시민단체 이런 어떤

노력을 하고 있었는지를 주요 이제 정부 정책 위주로 좀 말씀을 드려

AI 윤리를 위한 국가와 국제 사회의 노력 | 문정욱 | FAIR AI 2024 | NC문화재단

NC문화재단

발표자 소개 및 연구 분야 설명

정보통신정책연구원 디지털사회전략연구실 문정국 연구원 소개

연구원의 디지털 정책 연구 및 AI 부작용 연구에 대한 설명

다른 연구실과 달리 AI의 부정적 효과 완화 및 예방 정책 연구에 집중

윤리 정책 및 신뢰성 정책의 중요성 강조

AI 윤리적 이슈 사례 소개 및 한국 정부의 정책 방향 제시 예고

딥페이크 사진을 이용한 가짜 뉴스 유포 사례 (미국)

딥페이크 영상을 이용한 피싱 사기 사례 (중국)

AI 기반 대본 및 영상 합성으로 인한 할리우드 작가, 배우들의 파업 사례

딥페이크 사진을 이용한 유명 가수의 명예훼손 사례

가짜 음성 및 영상을 이용한 정치적 혼란 유발 사례 (미국)

AI 기술 확산에 따른 윤리적 이슈 (데이터 편향, 차별, 개인정보 침해 등)

국제 기구 및 학자들의 AI 위험성에 대한 우려와 인공지능 관리 국제 기구 필요성 제기

AI 윤리와 신뢰 강화의 필요성과 기술의 혜택과 위험의 균형 잡힌 정책 마련 강조

한국 정부의 AI 윤리 정책 3단계 (윤리 원칙, 실천 수단, 입법)

정책적 측면에서의 세 가지 차원 (자율 규제, 합리적 관리, 이용자 교육)

윤리 점검표 개발 및 배포 (AI 챗봇, 영상, AI 라이팅 등 분야별)

윤리 영향 평가 프레임워크 소개 및 시범 적용 계획

초중고 AI 윤리 교육 콘텐츠 개발 및 배포

인공지능 윤리 정책 포럼 운영 및 AI.kr 자료 공유

정부 정책의 실효성 확보를 위한 실천 방안 마련 필요성 강조

산업 육성과 규제를 포괄하는 인공지능 기본법 제정 필요성 강조

생성 AI 등 새로운 기술에 대한 대응 방안 마련 필요성 강조

윤리 영향 평가 시범 적용 및 거버넌스 개선 필요성 강조

AI 리터러시 교육 강화 및 비판적 사고 함양 필요성 강조

AI 윤리를 위한 국가와 국제 사회의 노력 | 문정욱 | FAIR AI 2024 | NC문화재단

AI 윤리를 위한 국가와 국제 사회의 노력 | 문정욱 | FAIR AI 2024 | NC문화재단

스크립트