AI 핑퐁: 모든 답변이 ChatGPT 스크린샷이 될 때

104점과 48개의 댓글이 달린 Hacker News 스레드는 개발자들의 커져가는 불만을 보여줍니다: 맥락 없이, 종종 틀리며, 분명히 읽지 않은 사람들이 전달하는 AI 생성 응답에 대한 불만입니다.

무슨 일이 일어나고 있나

원글 작성자(theorchid)는 세 가지 사례를 설명합니다:

• GitHub에서 멀웨어를 발견하고 AI에 조언을 구했지만 유용한 것을 얻지 못함. GitHub 토론을 열었습니다. 첫 번째 답변: AI가 준 것과 똑같은 텍스트. 지적하자 댓글이 삭제됨. 두 번째 답변: 같은 AI 응답이 다시 옴.
• 직장에서 사업주에게 질문을 함. ChatGPT 스크린샷을 돌려받음. 틀렸다고 답변. 1분 후: 또 다른 ChatGPT 스크린샷. 사업주는 어느 답변도 읽지 않음.
• Reddit DM을 받고 답장을 주고받음. 몇 번의 메시지 후에 AI 에이전트임을 깨달음.

다른 개발자들이 비슷한 이야기를 덧붙입니다. programmertote는 이렇게 말합니다: "지난주, 제 상사인 최고 데이터 및 분석 책임자가 dbt 모델 위에 시맨틱 레이어를 구성하는 방법에 대한 AI 생성 제안서(약 7페이지)를 던졌습니다. 데이터 엔지니어링 리드로서 읽어야 했고 몇 가지 명백한 문제를 발견했습니다... 어제, 동료 중 한 명이 오래된 지표를 재통합하는 방법에 대한 분명히 AI 생성된 5페이지 SOP 초안을 공유했습니다. 결국 우리 모두 AI 출력 검토자가 될 것 같습니다."

jadar는 곧 공유 대신 AI 출력을 실행해야 할지 궁금해합니다: "스스로 추론하여 작동하는 시스템을 만들 수 있다면, 당신은 무엇을 말하는지 아는 것입니다. 그렇지 않다면, 시간을 들여 알아낼 가치가 없습니다."

실질적인 대응

• jochem9: "프롬프트를 공유하도록 요청하세요. 그들의 AI BS를 지적하고 그들이 실제로 생각한 것을 공유할 방법을 제시합니다."
• LPisGood: "왜 당신의 AI에게 그들의 AI 쓰레기를 검토하도록 요청하지 않나요? 생각 없이 보낼 수 있는 것은 생각 없이 응답할 수 있습니다."
• sixtyj는 자동 응답을 구상합니다: "이 텍스트는 자동으로 생성되었으며 보내기 전에 검토되지 않았습니다. AI 쓰레기이며 읽지 않겠습니다. 다시 하세요. 그리고 더 잘 하세요."

개발자를 위한 결론

AI 출력을 맹목적으로 전달하면 신뢰가 무너지고 검토자에게 불필요한 작업이 생깁니다. 프롬프트를 공유하고 출력에 대해 추론하며 무시당할 위험을 감수하는 규범을 설정하면 AI 핑퐁을 늦출 수 있습니다. 한 댓글 작성자가 말했듯이: 읽지 않은 AI 쓰레기를 배포하는 것은 용납할 수 없다는 합의를 세우세요.