AI는 없다: 와들러의 데이터 존엄성 사례

최근 블로그 게시물에서 컴퓨터 과학자 필립 와들러(하스켈과 타입 이론으로 유명)는 우리가 "AI"라고 부르는 것이 실제로 지능적이지 않다고 주장합니다. 그는 Jaron Lanier의 견해를 반영하여 GPT-4와 같은 모델이 본질적으로 인간이 만든 콘텐츠의 고급 매시업이며 자율적인 정신이 아니라고 말합니다. 와들러는 이를 새로운 생명체로 취급하는 대신 향상된 협업을 위한 도구로 보고, 이를 뒷받침하는 인간에게 보상하도록 경제 구조를 재편해야 한다고 제안합니다.

게시물의 주요 주장

매시업으로서의 AI: 와들러는 GPT-4를 "통계를 사용하여 혼합된 훨씬 더 많은 데이터를 포함하는 위키백과 버전과 같은 것"으로 설명합니다. 이미지 생성기는 사진을 결합하는 시스템을 갖춘 "온라인 이미지 검색"과 유사합니다.
새로운 정신 없음: 혁신은 유용한 결과를 생성하는 "안내되고 제한된" 매시업 과정에 있지만 새로운 정신의 발명은 아닙니다. 그것은 "인간 창작물 사이의 이전에 숨겨진 일치를 조명"합니다.
데이터 존엄성: 와들러는 자신이 개발에 기여한 개념인 "데이터 존엄성"(또는 "데이터 노동" 또는 "다원성 연구")을 제안합니다. 이 모델에서 디지털 콘텐츠는 이를 만든 인간과 연결되며, 그들의 작업이 AI 모델에 사용될 때 보상을 받을 수 있습니다.

"무료" 온라인 서비스의 문제

와들러는 사용자가 무료 서비스와 교환하여 데이터를 무료로 제공하는 현재의 구조가 "어두운 면이 있음이 드러났다"고 지적합니다. 네트워크 효과로 소수의 플랫폼이 지배하게 되고, 경험이 무료여야 하기 때문에 남은 사업은 "영향력 판매"뿐입니다. 사용자는 "은밀하고 중독성 있는 알고리즘"의 표적이 되어 "허영심, 과민성, 편집증"을 갖게 됩니다.

구체적인 예: 나무 가지치기 로봇

와들러는 실제 시나리오를 제시합니다: AI 기반 나무 가지치기 로봇이 인간 노동자를 대체한다면, 그 노동자들은 평가 절하될 수 있습니다. 그러나 데이터 존엄성을 통해 "홀로그램 토피어리"와 같은 새로운 창의적 분야가 생겨날 수 있고, 모델은 집단 조직을 통해 수입을 분배할 수 있습니다. 각각의 새로운 AI 응용 프로그램은 "새로운 종류의 창의적 작업을 시작"할 수 있습니다.

AI 기업이 관심을 가져야 하는 이유

와들러는 기업이 데이터 존엄성을 채택해야 하는 비이타적인 이유를 지적합니다: 모델은 입력만큼만 좋습니다. AI를 새로운 영역(예: 대화형 VR 세계 생성)으로 확장하려면 그러한 세계의 더 많은 예가 필요하며, 창작자에게 보상하는 것이 이를 얻는 방법입니다. "LLM이 에세이를 쓰게 하는 것이 가상 현실 세계를 생성하는 것보다 훨씬 쉽습니다" 왜냐하면 존재하는 VR 세계가 거의 없기 때문입니다.

이것은 개발자를 위한 실용적인 가이드가 아니라 AI 경제를 재구성하는 방법에 대한 생각을 자극하는 주장입니다. AI로 구축하고 있고 보상 모델이나 훈련 데이터의 윤리에 대해 궁금하다면 와들러의 게시물을 읽을 가치가 있습니다.

📖 전체 소스 읽기: HN AI Agents