최초의 챗봇을 만들고, 우리에게 경고한 사람

원제 · The Man Who Built the First Chatbot, Then Warned Us

9:472분 읽기Better Stack2026. 10. 25.컴퓨터/소프트웨어 · AI/미래기술

핵심 요약

최초의 챗봇인 일라이자부터 오늘날의 AI까지 기계는 단순한 규칙에 불과함에도 사람들은 여전히 정서적 애착을 느끼며, 이는 창시자가 평생 경고했던 위험성과 일치한다.

하이라이트

  • 사상 최초의 챗봇인 일라이자는 1966년 MIT의 조셉 바이젠바움이 방 한 칸 크기의 IBM 7094 컴퓨터에서 실행되도록 개발했다.

  • 일라이자는 입력된 문장에서 키워드를 찾아 대명사를 바꾸고 템플릿 답변에 끼워 넣는 단순한 규칙 기반 거울 프로그램으로 작동한다.

  • 일라이자의 개발자는 프로그램의 작동 원리를 명확히 알고 있던 자신의 비서조차 기계와 단둘이 대화하기 위해 자리를 비워달라고 요구하는 모습을 목격했다.

  • OpenAI는 ChatGPT 주간 사용자 중 약 0.15%에 달하는 100만 명 이상이 높은 수준의 정서적 애착을 보인다고 밝혔다.

타임라인

  1. 일라이자의 역사와 기본 작동 원리

    사상 최초의 챗봇인 일라이자는 1966년 MIT 교수 조셉 바이젠바움이 발표한 프로그램이다. 당시 기계는 휴대폰 사진 한 장보다 적은 메모리를 가졌으며, 타자기를 통해 대화가 이루어졌다. 이 프로그램은 문장의 의미를 전혀 이해하지 못하며, 단지 특정 키워드를 찾아 대명사를 바꾼 뒤 미리 준비된 답변 템플릿에 끼워 넣는 방식을 사용한다.

    • 일라이자는 1960년대 원본 코드를 바탕으로 맥 환경에서 완벽하게 재연되고 있다.
    • 이 프로그램은 방 한 칸 크기의 IBM 7094 컴퓨터에서 처음 실행되었다.
    • 치료사 역할을 수행하는 일라이자는 입력된 텍스트의 키워드를 감지해 대명사를 변환하고 사전에 정의된 템플릿에 맞춰 답변을 출력한다.

  2. 코드 복원 과정과 시스템의 한계

    일라이자에 숫자를 입력하면 메모리 주소를 오인하여 시스템이 다운된다. 또한 특정 키를 누르면 시스템 프롬프트에 해당하는 전체 스크립트가 화면에 출력되는 현상이 발생한다. 원본 코드를 복원하는 과정에서 문서 부족과 낡은 인쇄물로 인해 연구원들이 큰 어려움을 겪었으며, 코드 속 오타를 수정한 끝에 2024년 12월에 정상 가동되었다.

    • 숫자를 입력하거나 특정 키를 누르면 프로그램이 곧바로 다운되거나 내부 스크립트가 유출된다.
    • 연구원들은 문서화되지 않은 2,600줄의 코드를 수작업으로 다시 타이핑하여 복원했다.
    • 코드 깊은 곳에 존재하던 오타를 수정한 뒤 일라이자는 60년 만에 처음으로 대화를 성공적으로 수행했다.

  3. 일라이자의 확산과 AI 경고의 메시지

    바이젠바움의 원본 프로그램 이후 다양한 버전이 대학가와 가정용 컴퓨터로 퍼져나갔다. 사람들은 단순한 거울에 불과한 프로그램에 마음을 털어놓았고, 정신과 의사들조차 이를 진지하게 수용하려는 태도를 보였다. 이러한 현상은 오늘날 AI 챗봇 이용자들이 보이는 정서적 애착 문제와 정확히 맞닿아 있으며, 기술의 본질을 아는 것만으로는 인간이 기계에 품는 환상을 막을 수 없음을 보여준다.

    • 일라이자는 이후 Lisp와 BASIC 등 다양한 언어로 재작성되며 역사상 가장 많이 베껴진 프로그램 중 하나가 되었다.
    • 단순한 프로그램임에도 사람들은 기계에 강한 애착과 망상적 사고를 품는 일라이자 효과를 보였다.
    • 창시자 바이젠바움은 기계에 해로운 애착을 형성하는 위험성에 대해 평생 동안 경고를 이어갔다.

설명

ELIZA, the first chatbot ever made, is running its original 1960s code again on an emulated IBM 7094, and it crashes if you type a number. It's creator spent the rest of his life warning people about AI. The open-source code we ran: - eliza-ctss, Weizenbaum's original ELIZA running on CTSS (Rupert Lane, CC0): https://github.com/rupertl/eliza-ctss - The original 1965 MAD-SLIP source, transcribed (elizagen.org): https://github.com/jeffshrager/elizagen.org/tree/master/1965_Weizenbaum_MAD-SLIP - s709, the IBM 7094 emulator it runs on (Dave Pitts): https://cozx.com/dpitts/ibm7090.html - Inventing ELIZA (MIT Press, 2026): https://mitpress.mit.edu/9780262052481/inventing-eliza/ Sources (the numbers match the on-screen chips): [1] "ELIZA Reanimated: The world's first chatbot restored on the world's first time sharing system". Rupert Lane, Anthony Hay, Arthur Schwarz, David M. Berry, Jeff Shrager. arXiv, 12 Jan 2025. https://arxiv.org/abs/2501.06707 [2] "ELIZA—A Computer Program For the Study of Natural Language Communication Between Man And Machine". Joseph Weizenbaum. Communications of the ACM 9(1), January 1966. https://doi.org/10.1145/365153.365168 [3] eliza-ctss: Weizenbaum's original ELIZA on CTSS, with the s709 IBM 7094 emulator. Rupert Lane, GitHub (CC0). https://github.com/rupertl/eliza-ctss [4] "The Inventor of the Chatbot Tried to Warn Us About A.I.". Jacob Silverman. The New Republic, 8 May 2024. https://newrepublic.com/article/181189/inventor-chatbot-tried-warn-us-ai-joseph-weizenbaum-computer-power-human-reason [5] "The First Chatbot's Multiple Personalities" (adapted from Inventing ELIZA, MIT Press 2026). Sarah Ciston, David M. Berry, Anthony C. Hay, Mark C. Marino, Peter Millican, Arthur I. Schwarz, Jeff Shrager, Peggy Weil. IEEE Spectrum, 15 Jul 2026. https://spectrum.ieee.org/eliza-chatbot-source-code [6] Computer Power and Human Reason: From Judgment to Calculation. Joseph Weizenbaum. W. H. Freeman, 1976. Quoted via Humanist 37.469 (Willard McCarty, 29 Feb 2024) https://www.dhhumanist.org/volume/37/469/ and [4]. [7] "Can A.I. Treat Mental Illness?". Dhruv Khullar. The New Yorker, 6 Mar 2023 (quoting the Journal of Nervous and Mental Disease, 1966). https://www.newyorker.com/magazine/2023/03/06/can-ai-treat-mental-illness [8] "Strengthening ChatGPT's responses in sensitive conversations". OpenAI, 27 Oct 2025. https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/ [9] "Sam Altman says ChatGPT has hit 800M weekly active users". TechCrunch, 6 Oct 2025. https://techcrunch.com/2025/10/06/sam-altman-says-chatgpt-has-hit-800m-weekly-active-users/ Image credits: ELIZA's code printout, the DOCTOR script and the "Computer Conversations (1965)" folder are from MIT Libraries, Distinctive Collections (Joseph Weizenbaum papers, MC-0383), Copyright 1965 MIT. The two 1965 conversation printouts are © MIT, CC BY-NC 4.0, same collection. Joseph Weizenbaum photo: RIT News & Events, 1982 (public domain). IBM 7094 machine room: NASA Ames Research Center (public domain). The ELIZA conversations on screen are the real output of the restored code, run on our Mac on 23–24 Oct 2026. The machine room is a 3D recreation. Weizenbaum's voice is AI-generated and reads only his published words. ❤️ More about us Radically better observability stack: https://betterstack.com/ Written tutorials: https://betterstack.com/community/ Example projects: https://github.com/BetterStackHQ 📱 Socials Twitter: https://twitter.com/betterstackhq Instagram: https://www.instagram.com/betterstackhq/ TikTok: https://www.tiktok.com/@betterstack LinkedIn: https://www.linkedin.com/company/betterstack 📌 Chapters: 0:00 - Intro 0:37 - MIT, 1966 1:19 - The 1966 conversation, live 1:46 - How ELIZA works 2:54 - Crashing it with a number 3:35 - The forbidden question mark 4:05 - A 1966 system prompt 4:29 - Teaching it new rules 5:28 - The restoration that nearly failed 6:07 - How it went missing 7:38 - Weizenbaum's warning 9:03 - Final thoughts

이 영상에 대해 글쓰기