제너레이티브 AI 사용과 관련된 문제 및 우려 사항

제너레이티브 AI는 크리에이티브 분야에서 무단 데이터 수집과 오용 가능성으로 인해 심각한 윤리적 문제를 야기할 수 있습니다.

### 예술 분야에서의 AI의 복잡성: 편견, 라이선스 및 윤리적 문제
* 🤖 예술 분야에서 AI의 주요 문제는 **편향된 사용과 데이터의 오염**에 있으며, 이는 해결해야 할 중요한 과제를 제기합니다.
* 🎨 많은 사람이 인공지능이 기존 전문가들에게 큰 영향을 미치지 않을 것이라고 생각하지만, **보컬로이드와 번역 소프트웨어가 전통적인 역할과 공존**했던 것처럼 예술 창작을 위한 새로운 도구를 도입하는 것은 사실입니다.
* 📊 특히 Stable Diffusion에서 논란이 되고 있는 **Lion 데이터 세트와 같은 데이터 세트의 라이선스 및 무단 사용**과 관련하여 생성형 AI를 둘러싼 심각한 우려가 있습니다.
* 🏢 이러한 기술을 통해 이익을 얻는 대기업이 늘어나면서 윤리적 문제가 제기되었고, **라이온 재단과 같이 자원을 공정하게 배분하기 위한 이니셔티브**가 생겨났습니다.
* 많은 조직에서 **다양한 온라인 플랫폼의 데이터를 무단으로 스크랩**하고 있으며, 이로 인해 책임 소재와 창작물의 소유권에 대한 논쟁을 불러일으키고 있습니다.
* ⚖ 일리노이주 같은 곳에서 AI를 규제하는 방향으로의 변화를 나타내는 법안이 등장하기 시작했지만, 현재 상황은 여전히 **아티스트의 스타일과 작품의 오용**을 비롯한 여러 문제로 가득 차 있습니다.
* 🔍 생성형 AI가 오해의 소지가 있는 표현을 만들어내고 데이터를 오염시킬 수 있는 잠재력은 **인간이 그 사용을 규제하는 법과 규정을 마련해야 할 시급한 필요성**을 강조합니다.
* 💡 이러한 어려움에도 불구하고, **Glaze 및 NightShade와 같은 지속적인 논의와 보호 조치**가 생성 AI와 관련된 위험을 완화하는 것을 목표로 하고 있기 때문에 향후 윤리적 AI의 발전에 대한 희망이 있습니다.

생성형 AI를 절대 쓰지 말아야 되는 이유! / 일러스트레이터 혜담님

인슈입니다^^ 게임그래픽, 아트, 그림, 원화 등을 다루고 있습니다.

인터뷰, 비지니스 문의는 댓글이나 이메일로 문의해주세요 ^^
shaonav@naver.com


Art ClasShoo 클라슈

크리에이티브 분야에서 AI의 도전 과제

편향된 데이터와 오염으로 인해 AI의 효율성이 저해되면서 프리랜서와 전문가 지망생에게 미칠 영향에 대한 우려가 제기되고 있습니다.

특히 안정적 확산과 같은 프로젝트를 통한 생성형 AI는 라이선스 문제를 야기하고 대기업의 기술 독점에 기여했습니다.

이에 라이온 재단은 비영리 단체를 설립하여 리소스를 배포하고 유사한 이념을 가진 사람들과 협력하는 한편, 다양한 온라인 플랫폼에서 데이터를 스크랩하여 이미지와 텍스트 설명을 일치시키는 작업을 진행하고 있습니다.

비영리 단체의 이미지 수집을 둘러싼 논란

이 비영리 단체는 유료 사진 사이트와 소셜 미디어 등에서 53억 장의 이미지를 무단으로 스크랩하고 수집한 혐의로 비판을 받아왔습니다.

이 단체는 수익을 창출하지 않고 운영한다고 주장하며 수집된 데이터의 사용에 대한 책임을 부인하고 있습니다.

이 단체의 행동은 사업으로의 전환 가능성과 AI 모델 학습에 무단 이미지를 사용하는 윤리적 의미에 대한 논의와 함께 논란을 불러 일으켰습니다.

제너레이티브 AI는 주로 중소기업에서 회색지대를 활용하여 활용하고 있으며, 대기업은 그다지 관여하지 않고 있습니다.

데이터를 분해하고 재조립하는 이 기술의 작동 방식은 인간의 이해력이나 창의력과 다르기 때문에 예술과 디자인 분야에서 활용에 대한 의견이 다양합니다.

방대한 양의 데이터를 기반으로 하는 제너레이티브 AI의 개발은 특히 사용자 동의와 아티스트의 작품이 오용될 수 있다는 점에서 안전성과 윤리적 영향에 대한 우려를 불러일으키고 있습니다.

AI가 생성한 이미지를 사용하면서 포토샵과 같은 도구와 '깨끗한 AI'라는 주장이 실제로 안전하지 않다는 것이 드러나면서 갈등이 발생하고 있습니다.

예술가를 사칭하고 허위 표현을 하기 위해 생성 AI를 오용하는 것은 윤리적 문제를 제기하며, 온라인에서 AI 이미지의 무분별한 사용은 사회적으로 큰 영향을 미칠 수 있습니다.

이 기술은 잠재적인 이점을 가지고 있지만, 데이터 크롤링을 통해 타인의 저작물을 무단으로 사용하는 문제는 여전히 주요 우려 사항으로 남아 있습니다.

생성적 AI와 그 방어에 대한 논쟁

AI를 옹호하는 사람들이 있지만, 발표자는 그들의 주장에 동의하지 않습니다.

이 토론에서는 법률 제정을 기다리기보다 선제적으로 생성 AI 문제를 해결하는 것이 중요하다는 점을 강조합니다.

Glaze와 NightShade와 같은 프로젝트는 노이즈를 재합성하고 대규모 데이터 세트를 사용하여 효과적으로 '독을 퍼뜨리고' 유해한 정보를 차단함으로써 원본 데이터를 보호하는 것을 목표로 합니다.