"겪은 일이 나를 만든다면, 아무 일도 겪지 않은 나는 무엇인가." l AI가 쓴 글로 다음 AI를 가르치고, 그 AI가 쓴 글로 또 다음 AI를 가르쳤습니다. 아홉 번째 AI는 중세 교회 건축 이야기를 이어 쓰라는 자리에, 산토끼 이름만 늘어놓았습니다. 네이처에 실린 실험인데요. 이번 편은… 그 산토끼가 어디서 왔는지를 묻습니다. 2,400년 전 플라톤의 동굴에서 시작해, 잠든 사람 이마에 남의 기억을 넣는 영화 《다크 시티》, 글자 하나 안 다른 『돈키호테』를 다시 써낸 보르헤스의 소설, 그리고 책등을 작두로 잘라 스캔한 앤트로픽에 판사가 그은 선까지. 무대 위 두 사람은 《다크 나이트》를 쓴 작가와, 전 세계 수백만 명에게 머신러닝을 가르친 교수입니다. 작가는 AI가 쓴 대본은 읽으면 티가 난다고 했고, 교수는 그게 왜 밍밍한지를 기술로 답했습니다. #AI #인공지능 #플라톤 ???????????????????????????? ???????????????? ????????????????????????????????????_ ???? 본 콘텐츠는 원 발언의 단순 직역이 아니라, 화자의 대담·인터뷰·기업 자료·당대 보도를 리소스로 삼아 논의된 개념과 사고 흐름을 재구성한 의역 해설 콘텐츠입니다. 한글 및 한국어 화자의 이해를 돕기 위해 맥락 보완, 구조 재편, 표현 최적화가 이루어졌으며, 원본 대담 전체가 아니라 핵심 구간을 선별해 다룹니다. 원 출처에 대한 존중을 바탕으로 제작되었습니다. 내용 이해를 위한 AI 이미지/영상 창작물을 부분적으로 사용했습니다. 한국어 더빙: 데이비드 S. 고이어 — 이규화 성우(X-File 멀더) / 앤드류 응 — 과읽남(과학책 읽어주는 남자) 기획·번역·해설·편집: 사이언스 아담 ✔ 원본 채널: @BerggruenInstitute (Berggruen Institute) ✔ 원본 영상: Andrew Ng and David S. Goyer: Creativity, Intelligence, and What We're building Toward • Andrew Ng and David S. Goyer: Creativity, ... ????????????????????????????????????_ ???? 이 콘텐츠 사담 섹터는 아래 레퍼런스를 참고했습니다. · 플라톤의 국가 제7권 (BC 375, 조웨트 옮김) Republic Book VII, trans. Benjamin Jowett · 슈마일로프 외의 재귀적으로 생성된 데이터로 훈련할 때 AI 모델은 붕괴한다 (2024) AI models collapse when trained on recursively generated data · 로저 이버트의 다크 시티 (2005) Dark City (Great Movies) · 앨섭 판사의 바츠 대 앤트로픽 공정 이용 명령 (2025) Bartz v. Anthropic PBC Order on Fair Use · 보르헤스의 피에르 메나르, 『돈키호테』의 저자 (1939) Pierre Menard, autor del Quijote 그 외 인용 출처는 본편 자막에 전부 표기했습니다. [????????????????????????????????] 00:00 Highlight 00:39 더빙섹터 [3] 동굴 속 인터넷 05:23 더빙섹터 [4] 헬리콥터와 독백 07:31 SADAM ???????????? 15:05 더빙섹터 [5] LSD 없는 환각 19:36 더빙섹터 [6] 도둑들의 미술관 26:14 SADAM ???????????????????? ????????????????????????????????_ ???? 앞선 편이 늑대 얘기였다면, 이번 편은 그림자 얘기입니다. 안 보셨어도 됩니다 — 이번 편은 따로 섭니다. 같은 무대의 같은 두 사람이, 이번엔 'AI가 위험하냐'가 아니라 'AI가 쓴 글은 어디서 오느냐'를 묻습니다. 그 답의 절반은 2,400년 전에 적혀 있었고, 나머지 절반은 지난해 미국 법정에서 나왔습니다. l 1st. 그림자의 그림자_ 플라톤의 동굴에는 상이 있습니다. 벽을 지나가는 그림자를 가장 빨리 알아보고, 다음에 뭐가 올지 가장 잘 맞히는 죄수가 받는 상. 지금의 언어 모델이 배우는 방식이 딱 이겁니다 — 앞 단어들을 보고 다음 단어를 맞히는 것(다음 토큰 예측). 벽에 뭐가 비칠지는 무대 뒤에서 누가 뭘 들어 올리느냐에 달렸고, AI에게 그 벽은 인터넷입니다. 고이어는 그 벽이 현실을 비뚤게 비춘다고 걱정했고, 응은 기업들이 교재를 고르고 답을 채점해서 상당 부분 바로잡았다고 답합니다. 맞는 말입니다 — 다만 기업들이 걸러 온 건 사람이 쓴 글이었고, 요즘 인터넷에는 AI가 쓴 글이 섞이기 시작했습니다. 네이처에 실린 실험이 그다음을 보여 줍니다. AI가 쓴 글로 다음 AI를 가르치고 그 AI가 쓴 글로 또 다음 AI를 가르쳤더니, 흔한 문장만 남고 드문 생각은 밀려나다가, 아홉 번째 AI는 중세 교회 건축 얘기를 이어 쓰라는 자리에 산토끼 이름만 늘어놓았습니다. 연구진은 이걸 모델 붕괴라 불렀고, 사람이 쓴 원래 글을 열에 하나만 섞어도 붕괴가 훨씬 줄었다고 적었습니다. 고이어가 각본을 쓴 《다크 시티》는 해가 뜨지 않는 도시입니다. 자정마다 낯선 자들이 도시를 다시 튜닝하고, 잠든 사람 이마에 공동 기억 은행에서 꺼낸 남의 기억을 넣습니다. 지금의 AI도 이마에 기억을 주입받은 셈입니다 — 인터넷에 있는, 누군가 겪고 써 놓은 남의 기억을. 그런데 이제 그 은행에 아무도 겪지 않은 글이 쌓입니다. 여러분이 AI로 다듬어 올린 글도 거기 들어갑니다. 챗봇은 세상에서 제일 흔한 문장으로 바꿔 놓으니까, AI로 열심히 쓸수록 글은 평균에 가까워지고, 그 평균이 다음 AI의 교재가 됩니다. 퓰리처상을 받은 평론가 로저 이버트는 이 영화 앞에 질문을 하나 세웠습니다. 겪은 일이 나를 만든다면, 아무 일도 겪지 않은 나는 무엇인가. 남의 글만 읽었고 진짜 경험은 하나도 없는 AI가, 세상에 없던 걸 창조할 수 있을까요. l 2nd. 두 개의 선과 메나르_ 응은 무대에서 미술관 얘기를 했습니다. 바닥에 앉아 거장을 따라 그리는 젊은 화가는 권장되고, 똑같이 그려서 자기 원작이라 내놓는 건 부끄러운 일이라고. 그 논지는 응보다 1년 먼저 미국 법원 판결문에 있었습니다. 작가들이 앤트로픽을 상대로 낸 집단 소송에서, 앨섭 판사는 책으로 AI를 훈련하는 일 자체는 '대단히 변형적'이라며 허용했습니다. 그런데 선을 하나 더 그었습니다 — 결과물이 아니라 입구에. 중고책을 사서 작두로 책등을 자르고 한 장씩 스캔한 뒤 종이를 버린 건 공정 이용이었습니다. 책 한 권이 파일 한 권으로 형태만 바뀌었으니까요. 해적판 사이트에서 약 7백만 권을 통째로 내려받은 건 아니었습니다(이 건은 그해 9월 15억 달러 합의로 끝났습니다). 고이어가 무대에서 한 말, '알면서 가져갔다'도 옳았습니다. 그런데 글자 하나 다르지 않은 똑같은 책이, 다른 책일 수 있을까요. 보르헤스의 소설에서 20세기 프랑스 작가 메나르는, 300년 전 세르반테스가 쓴 것과 글자 하나 다르지 않은 『돈키호테』를 자기 힘으로 처음부터 써냅니다. 소설 속 화자는 두 문장을 나란히 놓고 메나르 쪽이 더 풍부하다고 말합니다. 글자가 같아도, 누가 어떤 세상을 살고 썼느냐에 따라 다른 글이 된다는 겁니다. 메나르는 300년 후의 세상을 살고 같은 문장에 도착했습니다. AI는 어떤 세상도 살지 않고 같은 문장에 도착합니다. 보르헤스가 살아 있었다면, 그 문장을 누구의 문장이라고 했을까요. 응은 보상과 공정성이라는 질문이 남았다고 인정하면서도, 결국 잘 풀릴 거라고 했습니다. 누구한테 잘 풀린다는 뜻인지는, 아직 모르겠습니다. l 3rd. 동굴에서 미술관까지_ 고이어는 플라톤의 동굴로 시작합니다. 모델은 디지털화된 데이터만 배우는데, 인류가 남긴 것 중 디지털화되지 않은 게 산더미고, 인터넷은 현실을 꽤나 왜곡해서 비추는 모형이라고. 응은 인정합니다 — 다만 AI 팀이 인종차별·성차별 같은 편향은 일부러 눌러 놨고, 성차별하는 사람을 고치는 법은 몰라도 성차별하는 AI를 덜 그렇게 만드는 기술은 안다고. 못 고친 왜곡은 남고, 그래서 AI에게 없는 맥락을 가진 사람이 오래 필요하다는 게 응의 결론입니다. 고이어의 작업 방식은 구체적입니다. 네 쪽짜리 독백을 통째로 넣고 두 쪽짜리 여섯 버전을 받아 골라 섞는 일, 헬리콥터 객실에서 케이블 타이로 묶인 인물을 맥가이버처럼 탈출시키는 액션 시퀀스를 한 시간 만에 만든 일. 장편 초고가 8~10주에서 4~5주로 줄었지만, AI가 장면을 대신 써 주는 건 아니라고 못 박습니다. 이미지에서는 AI의 환각이 값집니다 — 《파운데이션》 시즌 2 콘셉트 작업에서 백만 년이 지나도 못 떠올릴 괴상한 그림이 나왔으니까요. 글은 다릅니다. 주제 하나만 넣으면 가장 클리셰투성이 대본이 나오고, 읽으면 티가 납니다. 예술이 '사람이 끼어 있는' 작품과 '사람이 이끄는' 작품으로 갈린다는 게 고이어의 전망이고, 응은 AI가 읽은 걸 평균 내서 밍밍한 결과를 내니 사람이 방향을 밀어야 한다고 받습니다. 마지막 질문은 'AI는 남의 작품을 훔쳐서 만든 것 아니냐'였습니다. 응의 답은 미술관이었고, 고이어의 답은 자기 책 세 권이 들어간 소송이었습니다. #앤드류응 #데이비드고이어 #플라톤 #동굴의비유 #보르헤스 #돈키호테 #다크시티 #크리스토퍼놀란 #앤트로픽 #저작권 #모델
