유엔의 글로벌 AI 거버넌스: 앞으로의 도전과 기회

### 글로벌 AI 거버넌스의 시급한 필요성: 앞으로의 도전과 기회
* 🌍 거대 기술 기업의 영향력이 점점 더 커지는 세상에서 지정학 전문가인 Ian Bremer는 **인공지능(AI)이 교전, 경제, 심지어 전쟁의 규칙을 좌우하는 '테크노폴'**에 대해 설명합니다.
* 📅 유엔은 **2024년 9월 19일에 발표한 글로벌 AI 거버넌스를 위한 대담한 계획**을 통해 원자력 및 항공을 관리하는 것과 유사한 국가를 위한 가드레일을 구축하는 것을 목표로 하고 있습니다.
* 🔍 브레머는 AI와 관련된 기회와 위험을 정의할 필요성을 강조하며, **AI가 개인의 삶과 산업을 변화시킬 수 있지만 방치할 경우 상당한 위험**을 초래할 수 있다고 강조합니다.
* ⚖ 그는 현재의 자본주의 모델은 기술 기업이 AI를 통해 이익을 얻는 동시에 비용과 위험을 외부화할 수 있다고 경고하며 **수익과 손실 모두에 대한 책임을 보장하는 거버넌스 모델의 필요성**을 강조합니다.
* 💡 이 보고서는 특히 AI 개발에 있어 상당한 장벽에 직면해 있는 글로벌 남부를 위해 기술에 대한 공평한 접근을 보장하기 위해 **AI 역량 개발 네트워크와 AI를 위한 글로벌 펀드**를 설립할 것을 제안합니다.
* 📈 브레머는 **AI의 의미 있는 개방성은 소수 기업의 독점적 지배를 막고 인류 전체에 이익이 되는 다양한 애플리케이션**을 촉진하는 데 매우 중요하다고 주장합니다.
* 🤝 AI 기술이 계속 발전함에 따라 그는 AI 배포의 복잡성을 효과적으로 해결하기 위해 **표준과 거버넌스 프레임워크를 정의하는 데 있어 국제적 협력의 중요성**을 강조합니다.
* 🔗 궁극적으로 AI 거버넌스의 미래는 의미 있는 대화와 행동에 참여하는 우리 모두의 집단적 능력에 달려 있으며, **AI가 단순히 소수를 풍요롭게 하는 것이 아니라 인류를 위해 봉사할 수 있도록 보장**해야 합니다.

AI 거버넌스는 기술이 기업의 이익뿐 아니라 인류의 공동 목표에 기여할 수 있도록 글로벌 협력을 요구합니다.

The UN Is Speaking Up About AI — Here’s What They’re Saying | Ian Bremmer and Bilawal Sidhu | TED

The TED Talks channel features the best talks and performances from the TED Conference, where the world's leading thinkers and doers give the talk of their lives in 18 minutes (or less). Look for talks on Technology, Entertainment and Design -- plus science, business, global issues, the arts and more. You're welcome to link to or embed these videos, forward them to others and share these ideas with people you know.

TED's videos may be used for non-commercial purposes under a Creative Commons License, Attribution–Non Commercial–No Derivatives (or the CC BY – NC – ND 4.0 International) and in accordance with our TED Talks Usage Policy: https://www.ted.com/about/our-organization/our-policies-terms/ted-talks-usage-policy. For more information on using TED for commercial purposes (e.g. employee learning, in a film or online course), please submit a Media Request at https://media-requests.ted.com

글로벌 AI 거버넌스를 위한 유엔의 대담한 계획

유엔은 주권 국가들이 따라야 할 가드레일을 설정하는 것을 목표로 하는 글로벌 AI 거버넌스 계획을 발표했습니다.

이 계획의 시급성은 AI 기술의 급속한 발전과 사회를 혼란에 빠뜨릴 수 있는 잠재력으로 인해 더욱 커졌습니다.

이 보고서의 공동 저자인 이안 브레머는 AI가 개인과 산업에 제공하는 혁신적 기회를 강조하는 동시에 그 위험을 관리하기 위한 효과적인 거버넌스의 필요성을 강조합니다.

AI의 힘의 역학 관계와 그 영향력

민간 기업이 AI 기술을 빠르게 도입하면서 정부와 기업 간의 힘의 불균형이 발생하고 있습니다.

이러한 기업들은 수익성에 초점을 맞추기 때문에 AI의 개발과 배포에 상당한 영향력을 행사하는 기술 양극화 현상을 초래하고 있습니다.

AI에 대한 효과적인 글로벌 거버넌스와 규제의 부재는 일자리 대체, 경제적 불평등 악화 등의 위험을 초래할 수 있으므로 효과적인 거버넌스를 위해 정부가 민간 부문과 협력하는 것이 중요합니다.

글로벌 거버넌스에서 AI의 역할

유엔은 AI의 영향과 기회를 효과적으로 관리하기 위해서는 AI에 대한 공통된 이해가 필요하다고 강조합니다.

기후 변화와 인권과 같은 문제에 대한 글로벌 합의는 지속 가능한 개발 목표를 달성하기 위해 AI를 사용하기 위한 프레임워크를 제공합니다.

비즈니스 모델에 미치는 AI의 고유한 영향력은 글로벌 남부와 생물 다양성 문제 해결 등 공익을 위해 우선순위를 정할 수 있는 기회를 제공합니다.

AI 기술에 대한 공평한 접근 보장

AI 기업 리더들은 좋은 일을 하고자 하지만 어떻게 하면 가장 큰 영향을 미칠 수 있는지에 대한 공통된 이해가 부족합니다.

전 세계적으로 AI에 대한 공평한 접근이 강조되고 있으며, AI 역량 개발 네트워크와 AI를 위한 글로벌 기금 등의 방안이 제안되고 있습니다.

이러한 이니셔티브는 전문 지식, 컴퓨팅 및 훈련 데이터를 제공하는 동시에 기업의 시장 개척을 위한 인센티브를 조정하는 것을 목표로 합니다.

AI가 기업 권력과 소비자 권리에 미치는 영향

기업 차원에서 AI를 도입하면 효율성이 높아지고 경쟁 역학관계가 악화되어 소비자의 선택권이 줄어들 수 있습니다.

방대한 데이터 세트를 보유한 소수의 기업이 혁신을 주도하고 소비자에게 종속적인 환경을 조성할 수 있습니다.

AI 기반 경제에서 개인의 권리를 보호하고 힘의 불균형을 해소하기 위해서는 효과적인 거버넌스와 규제의 필요성이 더욱 중요해지고 있습니다.

AI 기술의 미래는 급진적인 개방성을 요구할 수 있으며, 이는 시스템적으로 중요하고 잠재적으로 위협이 될 수 있습니다.

금융안정위원회와 유사한 지질공학 안정성 위원회는 AI 시장에 대한 위협을 파악하고 회복력을 보장하는 데 도움이 될 수 있습니다.

기후 변화에 관한 정부 간 패널과 유사한 글로벌 기술 거버넌스는 AI 개발의 도전과 기회를 정의하고 지속 가능한 성장을 위한 노력을 조율하는 데 필요할 수 있습니다.

AI 거버넌스와 전쟁에서 정부의 역할

한 그룹의 국가들은 기회보다 도전이 더 크다는 믿음으로 AI 거버넌스의 기회와 도전을 정의하기 위해 노력하고 있습니다.

전쟁에서 AI의 사용을 규제하기 위한 노력이 유엔에서 진행 중이지만, 법 집행을 위해서는 소수의 강력한 정부가 필요할 수 있습니다.

연사는 AI가 경제 시스템을 조작할 수 있는 가능성과 인간 관계에 미치는 영향에 대해 우려를 표명하며, 알고리즘이 개인적인 상호작용보다 우선시되면서 인간성이 상실될 것을 우려합니다.

책임감 있는 AI 개발의 시급한 필요성

AGI의 잠재적 부상은 단 몇 년 안에 인간이 알고리즘화될 수 있는 단기적인 위협이 될 수 있습니다.

현재 기술을 통한 인간에 대한 실시간 실험은 재고되어야 하며, 소규모 테스트 환경의 중요성이 강조되고 있습니다.

AI라는 글로벌 과제를 해결하기 위해서는 소수의 거대 기술 기업에 권력이 집중되기보다는 개인과 국가에 권한을 부여하는 탈중앙화된 생태계를 지향하는 긴급한 협력과 공동의 행동이 필요합니다.