거짓말하고 가짜 뉴스 만들어 내고 그런 거는 해결이 안 돼요 그거는 영원히 해결이 안 돼요 영원히 AI

거짓말을 해야 될 거예요 그걸 그냥 믿고 가지고 가면 큰일 나는 거예요 디도스 이런 거 아무것도

[음악] 아니에요 트럼프는 AI 산업에 대해서 어떻게 생각하나요 어 트럼프는 특별히

거기에 대해서 막 강하게 얘기한 적은 없어요 그러니까 있는데 시장에 시그널을 줄 정도는 아니었고 어 다

이제 일론 머스크가 좀 옆에 있잖아요 그래서 일론 머스크의 영향으로 또 실리콘밸리 많은 기업들이 빅샷이

트럼프의 이제 지지를 보냈던 이유는 바이든이 규제가 너무 심했다 AI 산업이 뜨기도 전에 규제부터 하려고

했다 그래서 그 반발을 하면서 트럼프의 큰 돈을 기부했던 게 굉장히 많아서 일단은 AI 대해서는 좀

규제보다는 프로 입장이 좀 많죠 트럼프가 여기에 대해서 공식적인 입장을 아마 낼 거 같아요 이제 규제만 나오면은 거기 본인의 생각을

얘기하지 않을까 싶습니다 왜냐면 또 부통령 펜스 아무래도 또 실리콘 밸리 쪽 사람이잖아요 그러니까 또 AI

대해서 좀 더 우호적인 얘기 해 주지 않을까 싶긴 한데 그리고 이제 주변에 있는 피터 틸이든지 제프 삭스 이런

친구들 다 프로 코이너이고 프로 AI 사람들이기 때문에 뭐 아마 그런 영향을 많이 받지 않을까 싶습니다 제

걱정되는 건 중국을 규제하면서 AI 기업들이 수출이나 좀 약간 이런 루트를 좀 막을 수도 있지 않을까

요런 우려들이 있는데 그렇게도 좀 보고 있나요? AI 수출이라고 하면 이제 제품이나 서비스 이런 예 중국으로

나가거나 우회로 들어가는 것들을 차단하려고 하지 않겠는가? AI 지금은 기술이라기보다는 내셔널 그 안보의

문제기 때문에 AI 관련된 모든 제품과 서비스가 중국으로 들어가거나 중국계 이제 미국으로 들어오거나 이런

거를 못 하죠. 음 이게 왜냐면 제가 알기로 우리나라에 H100도 없다고 들었어요. 있긴 있어요. 있긴 있어요. 있어요.

어 있습니다. 지금 뭐 메타 이런 데는 10만 개 이런 거 아니에요? 개수가 그렇죠. 10만 개 다 합치면 더 많죠.

그러니까 이제 우리나라가 가진 이 그 다 비디아 그 긁어 모아도 이게 머신 러닝 돌리면 잽이 안 되는 거 아니에요? 잽이 안 되는 정도가 아니고

지금 조족지혈이라인 AI 엔진부터 시작해서 모든 그런 패권이 미국에 의존하게 될 거 우리나라도 그러면 우리나라가 그동안

인터넷 강국이었던 IT 강국이라 네이버 카카오 같은 기업들이 나왔는데 이 기업들이 AI 넘어가지

못할 거 아니에요 어 미국에서는 지금 데이터 트레이닝 하잖아요 그니까 그 모델을 학습시키는 거 예를 들면

GPT 모델이잖아요 GPT 그다음에 클로드 퍼플렉시티 포함해서 많은 모델이 있는데 그 모델을 어 학습시키는 거를 AI

데이터센터에서 학습 시키잖아요 그거를 미국 밖에선 할 수가 없어요 아 그럼 우리나라 기업이 미국 거를 활용해서

써 먹어야 되는 거요 그렇죠 이제 미국 거를 데이터센터가 이제 밖에 못 나오기 때문에 그리고 사실은 우리가

학습시킨다는 의미가 언어를 학습시키고 그다음에 지금은 동영상 학습시키고 사진을 학습시켜 가지고 이제 돌려

가지고 얘가 결과 값을 만들어내는 거잖아요 근데 우리는 미국 영어로 돼 있는 거 잘 학습 안 하잖아요

한국어가 글로벌 인터넷 점유율이 7% 든요 많은 거예요 소수 언어 중에는 우리가 제일 많아 그러니까

트레이닝 데이터 셋이나 우리가 어 크다고 볼 순 없죠 스페인어 스페인만 하나 유럽도 하고 남미 다 스페인어

브라질리언 브라질만 하나 포르투갈어 있고 근데 한국어 7% 인터넷에서 많이 하는 건 양이 이게 좀 작죠

지금 옛날하고 좀 다른게 뭐냐면요 예전에 IT 강국 하고 서비스 얘기했을 때는 어 우리게 로컬 화가

중요했어요 예를 들면 미국에 어떤 서비스 있으면 한국에 들어오면 한국적으로 좀 해야 되고 구글이

한국에 들어왔을 때 구글 코리아가 설립을 했어요 우리는 네이버만 있었는데 뭐 이러면서 안드로이드도

있고 AI 시대에는 필요 없어요 음 응 그냥 GPT 영어로 쓰세요 근데 오픈 AI 오픈 AI 코리아 있나요 오픈

AI가 한국에서 돈은 이렇게 벌어 가도 오픈 AI 한국에서 고용을 하나요 지금 특징은 한국에서 고용이

벌어지지 않고 세금을 내지 않아요 이게 이제 앞으로의 특징이에요 그렇다고 막아라 아니면 여기서 뭐

지어라 안 해 안 가 이런게 지금 특징이죠 로블록스 보세요 로블록스 음 로블록스 한국에서 해서 오피스 만들려 그랬어요 이 규제가 너무

많아 그리고 한국만에 있는 규제가 있어요 게임과 관련돼서 그리고 메타 이거 안경 있잖아요 스마트 안경

한국에서 좀 팔라고 테크 좋아하니까 좀 팔아볼까 못 들왔어요 왜냐면 이게가 정말 착칵 소리가 나야 돼 아

맞아 한국은 그죠 카메라 소리 나야 되죠 맞아맞아 그러니까 그러려면 칩을 또 따로 넣어야 돼 아 안 팔아 한국

따로 만든 게 귀찮다 귀찮은 게 아니고 이게 좀 시장성이 칩을 따로 넣어서 해야 되는데 그만큼 사이즈가 나오느냐

스마트폰이면 되지네 자동차 정도는 되지 그거 말고는 좀 로컬라이제이션 쉽지 않죠 음 그니까 AI 시대 최근

2년 이잖아요 앞으로 10년 응 어떻게 될 것이냐 글로벌 테크 생태계에서 한국의 역할이 어떻게 될

것이냐 상당히 의문이 많은 답이 어떻게 되는 것보다는 딱 들어봐도 쉽지 않아 보이지 않습니까? 답은

있는데 안 해 문제지. 그동안 우리나라가 구글이 전 세계 점유율이 90% 면서요 검색 시장 그나마 점령 못한

나라 세 군데가 러시아, 중국, 한국 세 나라니까 그냥 지금까지 잘 버텼다. AI 시대는 어려울 것 같다. 그래서

얼마 전에 네이버가 선언을 했잖아요. 사실상 AI 검색을 거의 좀 안 하는 예, 투자도 줄인다. 투자도 줄이고

왜냐면 사람들 잘 안 쓰잖아. 아 그냥 Google 써 그런 거예요. 응 우리 대신에 AI 쇼핑 쪽으로 이렇게 해가지고 그

네이버에 쿠팡 화장지, 카카오 같은 경우에는 AI 아직 개발 굉장히 더디고 있는데 뭐 뭐라도 하고 있잖아요. 이것도 그럼

딱히 의미가 없다고 봐야 될까 아니요 지금 네이버도 의미가 없는 활동은 없지 의미 있는데 그게 유효하다는

거에 대해서는 좀 다른 문제죠 시장과 사람들의 반응과 주가가 그 반응을 하는 건데 제일 뭐 지표가 또 주가

아니겠습니까 그럼 이번에 카카오가 AI 제품을 내놨을 때 주가 그걸 보면은 어 시장의 반응이 그냥 나오는

거죠 반응 안 좋잖아요 라고 얘기하진 않겠습니다 대답하지 않겠습니다 모든 건 아니에요 애가 좋다고 뭐가 좋겠어요 시장 돈이

올라야지 그럼 AI 보고 카카오 네이버에 투자하는 건 약간 조금 뭐 AI 쉽지 않은 상황이죠 사실은 한국

기업의 주식은 또 기술의 문제는 아니에요 그러니까 여러 가지 거버넌스의 이슈도 있고 이제 기업 거버넌스가 아무리 투명해도 주가가 안

올라와 우리 기업들 기업인들 보면 열심히 하는 기업인들 많아요 진짜 투명하게 하시는 분들 많거든요 다

뉴스에 나오는 분 그런 분들 아니에요 굉장히 성실하게 공시 제대로 하고 하는 분들이 더 많아요 근데 왜 이

모양이야 한국 증시가 이 모양이기 때문이야 그거는 많은 시사점이 있다고 생각해요 아무리 기업인들이 열심히

해도 글로벌 자본이 한국에 들어와야 되거든요 그거를 웰컴 하지 못하는 뭔가 이렇게 꼬리표 달고 한국의

특징은 뭐냐면요 들어오면 못 나가요 잘 내가 세금 낼게 나가 이게 좀 쉽지 않아 마치 우리나라가 중국 투자했을

때 못 빠져나온 거 똑같은 거 아니에요 외국에서 한국 보면 그런 느낌 아 별반 차이 없는 거구나 예

자본 입장 그럼 태국도 못하다는 얘긴데 태국 같은 경우는 자본은 잘 나가게 해주잖아요 그렇죠 투자해서

제품 만들고 고용해 가지고 글로벌 서플라이 체인에 하나로서 한국이 중요한 위치 이러면서 내가 투자하면서

공장 만들고 돈 벌고 할 수 있으나 자본이라는 거는 투자를 하면은 돈을 벌어야 되는 거거든요 자본 투자를

해서 내가 원하는만큼 수익이 나오려고 하는데 뭐 오너가 사건 사고를 낸다든지 정부에서 갑자기 규제를

바꾼다든지 그런 경우가 많아요 음 지금 뭐 떠오르지 않습 갑자기 임원인사 발표해 가지고 승계가 갑자기

뭐 진다든지 상제 갑자기 때 상자 뭐 한다든지 그러니까 객관적으로 생각해 보세요 그런 기업에 내가 투자를 하고

싶겠냐 거지 거기다 MSCI 지수도 안 올라가요 편입이 안 돼 있죠 이유가 있는 거예요 어 글로벌

머니들은 들어갈 이렇게 좀 안 이렇게 안 되는 거죠 사실 MSCI 지수만 올라가도 우리가 주가가 많이 올라가죠

왜냐면 의무 편입해야 되는 자본이 있어요 글로벌 빅머니 자본가 그런 회사들은 MSCI 지수 국가들에 있는

기업들에게 의무적으로 얼로케이션 해야 되는 왜냐면 답변해야 되기 때문에 거기에 한국 기업들 드립이라도 아 뭐

MSCI 지수 이거 글로벌이 아닌데요 뭐 어떻게 합니까 이게 대통령이 작년에 MSCI 얘기했었던 뭐 의대조

이런 거도 많은 언론에서 나오는 거는 얘기하지만 한국 증시나 한국 자본의 선진화에 대한 약속에 대해서는 어느

누구도 문제 제기하지 않잖아요 왜 관심이 없거든 저는 이 문제가 의대 정원만큼 중요하다고 생각하는데 우리

돈과 관련된 건데 예 거기도 좀 추적해 주시기 바랍니다 아 그 우리나라도 정부 효율도가 빨리 생겨야

된다 그 얘기도 나오고 있긴 하던데요 뉴스 보니까 뭐 어떤 정치인이 그 얘기 생각했으니까 일론 머스크 거기

트럼프인가 4년 끝나면 한국의 정부를 만들어서 4년만 수장 약간 히딩크 사오듯이 어 그럼 마지막으로

AI 한계점이 있다면 뭐라고 생각하시나요 AI 한계점은 인간의 상상이죠 상상하면 할수록 더 좋은 서비스가 나올 걸 생각하고 단

할루시네이션 문제 있잖아요 거짓말하고 가짜 뉴스 만들어내고 그런 거는 해결이 안 돼요 음 그거는 영원히

해결이 안 돼요 영원히 AI 거짓말을 해 될 거예요 왜 왜 그러는 거예요 원래 그렇게 생겼어요 이건 규제도

소용이 없어요 규제가 아니고 그냥 할루시네이션 하게 만드는 머신 러닝으로 해결해야 되는 거니까 계속 돌리면

돌릴수록 더 큰 거짓말을 하게 돼 있어요 피노키오 이게 치명타다 그거는 그렇죠 치명타 그러니까 그거를 어느

정도 인식을 하고 AI를 봐야 된다는 거지 그걸 그냥 믿고 가져가면 큰일 하는 거예요 그러니까 CPI 추이를 좀

알려서 이렇게 했다가 뭔가 그래프가 이상한 거 같아서 딱 보니까 자기 상상의 나래를 그려버린 거야 크로스

체크하는 게 무조건 필요하겠네요 당연하죠 근데 더 무서운 거는 이게 할루시네이션 하잖아요 이걸 이

데이터가 되게 중요한데 이 할루시네이션 일부러 가짜 데이터를 셋을 넣어 가지고 가짜 데이터가 나올 수 있게 만들어서 그 회사에 갖다 준다고 생각해

보세요 아 트로이 목마 집어넣네 그냥 지금 상상이 아니고요 지금 벌어지고 있는 일들입니다 AI 발전할수록 어

할루시네이션 그다음에 AI 해킹 AI 해킹은 이제 잡아낼 수가 없어요 그러니까 애가 태어날 때 그 잘못된

주사를 넣는 거야 성악설이에요 성악설 그게 AI 해킹이죠 데이터셋을 조작하는 거 아예 처음부터 디도스

이런 건 아무것도 아니에요 나는 그대로 했는데 회귀 부정이 그런 일이 벌어지죠 이거를 우리 회사는 알고

있고 다른 회사들은 모르는 걸 집어넣으면 언제든지 그 회사들을 엿 먹일 때 써 먹을 수 있는 거잖아

그래서 계속 이걸 보조 수단으로 음 AI 이거를 완전한 서비스가 된다고 하면은 어 안 돼요 그렇죠 이 거짓말에 가 디페이 끝까지

같이 결합되면은 이번에 정치 미 대선 때도 되게 많지 않았어요 그렇죠 예 그런 것도 많고 그게 이제 앞으로

더 많아지겠죠 네 오늘 덕분에 AI에 대해서 제대로 공부를 했는데 그리고 저희 이번에 책 나왔는데 네 좀 많이

관심을 또 가져주시고 그다음에 저희 더 밀크도 재밌는 스토리가 많으니까 더 밀크는 어떤 콘텐츠들이 들어

있나요 더 밀크는 이제 우리 미국 주식 콘텐츠도 있고요 그리고 저희가 본사가 실리콘

밸리 기업 보이스가 이게 많이 담겨 있습니다 이 실리콘 밸리에서 여기까지 와 주셔서 너무 감사하고요 다음번에 또

좋은 소식 기다리도록 하겠습니다 오늘 출석 감사합니다 [음악] 감사합니다  [음악] [박수] [음악]

실리콘밸리 전문가가 보는 AI의 한계점(ft.손재권 더밀크 대표)

광고 & 출연 문의 : dodarimedia@naver.com
멤버십 가입(월1회, 주1회 스터디)
https://bit.ly/3tFjRb1




전인구경제연구소

AI가 생성하는 거짓말과 가짜 뉴스는 해결 불가능한 문제이다.

AI의 거짓말을 맹신하면 큰 문제가 발생한다.

미국 정치권의 AI 산업에 대한 입장

트럼프는 AI 산업에 대해 강력한 입장을 표명한 적이 없다.

일론 머스크의 영향으로 실리콘밸리 기업들이 트럼프를 지지했다.

바이든의 과도한 규제에 대한 반발로 트럼프에게 많은 기부가 이루어졌다.

트럼프는 규제보다는 AI 산업에 긍정적인 입장을 가질 것으로 예상된다.

펜스 부통령과 주변 인물들의 영향으로 AI에 대한 우호적인 입장을 유지할 가능성이 있다.

AI 기술의 국가 안보적 측면과 한국의 IT 산업 현황

중국에 대한 AI 기술 수출 규제 가능성에 대한 우려가 있다.

미국에 대한 AI 엔진 및 관련 기술 의존으로 한국 IT 기업의 경쟁력 약화가 우려된다.

미국 데이터 센터의 데이터 트레이닝 의존으로 한국 기업의 AI 경쟁력 확보에 어려움이 있다.

한국어의 글로벌 인터넷 점유율은 낮아 AI 트레이닝 데이터 셋이 부족하다.

AI 시대에는 과거와 달리 로컬라이제이션이 중요하지 않다.

AI 시대 한국 기업의 현실과 과제

OpenAI와 같은 글로벌 기업은 한국에서 고용을 창출하지 않고 세금을 내지 않는다.

한국은 게임 및 스마트 안경 관련 규제로 인해 글로벌 기업의 진출이 어렵다.

AI 시대 한국의 글로벌 테크 생태계 내 역할에 대한 의문이 제기된다.

네이버의 AI 검색 투자 축소는 시장 경쟁력 약화를 보여준다.

카카오와 네이버의 AI 개발은 시장의 긍정적인 반응을 얻지 못하고 있다.

한국 증시의 문제점과 해결 방안

한국 기업의 주가 하락은 기술적 문제뿐 아니라 거버넌스 이슈도 존재한다.

글로벌 자본 유치의 어려움과 자본 유출의 어려움이 한국 증시의 문제점이다.

MSCI 지수 편입의 어려움은 글로벌 자본 유치의 어려움을 보여준다.

한국 증시와 자본 시장의 선진화에 대한 논의가 부족하다.

정부 효율성 향상의 필요성이 제기된다.

AI의 한계는 인간의 상상력에 있다.

AI의 할루시네이션(환각) 문제는 규제로 해결할 수 없다.

AI의 거짓말은 머신러닝의 본질적인 문제이다.

AI는 학습을 거듭할수록 더 큰 거짓말을 할 가능성이 높다.

AI 할루시네이션으로 인한 가짜 데이터 생성 가능성과 그 위험성이 있다.

AI 해킹은 잡아낼 수 없으며, 데이터셋 조작을 통한 공격이 가능하다.

AI는 보조 수단으로 사용되어야 하며, 완전한 서비스로는 부적절하다.

AI 기반 가짜 정보는 앞으로 더욱 증가할 것이다.