같은 말을 두고 정의부터 어긋났어

“우리는 지금 싱귤래리티 안에 있어. 이 순간이 그거야.”

샘 올트먼이 Relentless 팟캐스트에서 한 말이야. Al Jazeera 기사에는 평생 기다려왔고 세상에 크게 좋을 거라는 말도 같이 실렸어.

싱귤래리티는 기술이 사람 지능을 넘어서고 스스로를 더 좋게 만들기 시작해, 사람이 통제하거나 예측하기 어려워지는 시점을 가리키는 말이야. 측정 기준이 정해져 있는 용어가 아니라서, 누가 어떤 정의를 쓰는지에 따라 답이 달라져.

반박은 조건을 두 개로 쪼개

케임브리지의 Sean O hEigeartaigh는 자기가 아는 정의대로라면 아직 그 지점이 아니라고 했어.

Info-Tech Research Group의 Brian Jackson은 더 구체적으로 갈랐어. 통제를 벗어나는 것과, AI가 스스로 목표와 의도를 세우고 자기 힘으로 굴러가는 것은 다른 항목이라는 거야. 뒤쪽은 전혀 일어나지 않았다고 봤어.

Google의 데미스 하사비스도 5월에 아직 산기슭이라고 말했어. 같은 방향을 보면서도 도착했다고는 안 한 셈이야.

예측 연도는 원래 계속 밀려왔어

  • 2029년: 레이 커즈와일이 2005년 책에서 인간 수준 지능 도달 시점으로 잡은 해야.
  • 2045년: 같은 책에서 사람과 컴퓨터가 합쳐진다고 본 해야.
  • 2030년: 올트먼이 지난해에 AI가 인간 지능을 넘어설 거라고 말한 해야.

셋 다 관측값이 아니라 예측이야. 지금 발언도 같은 줄에 놓고 보면 새로 발표된 사실이 아니라 주장 하나가 늘어난 거야.

규모 숫자는 따로 봐야 해

Al Jazeera는 ChatGPT(챗지피티) 주간 활성 사용자를 9억 명 넘게, 유료 구독자를 약 5,000만 명으로 적었어.

이 숫자는 채택 규모지 지능 수준이 아니야. 사용자가 늘었다는 사실과 시스템이 스스로 목표를 세운다는 주장은 서로 다른 항목이거든.

그래서 이 단어를 어떻게 쓸까

  • 도입을 정하는 사람: 싱귤래리티라는 말이 나오면 판단을 멈추지 말고, 그 시스템이 목표를 누가 정하는지부터 물어봐.
  • 운영을 맡은 사람: 반박한 연구자들이 강조한 건 위험이 없다는 게 아니라 통제 상태를 유지하는 운영 규칙이야. 승인 경로와 권한 범위를 먼저 문서로 정해.
  • 투자나 기획을 보는 사람: 예측 연도는 계속 바뀌어왔어. 연도보다 이번 분기에 실제로 바뀐 기능과 가격을 보는 편이 낫겠어.

이건 각자 판단이야. 다만 파는 기업의 주장과 조건을 따지는 연구자의 반박을 나란히 놓고 보는 편이 덜 헷갈려.