얼마 전 2024년 노벨상을 수상한 캐나다 토론토대 명예교수인 제프리 힌턴(Geoffrey Hinton)교수는, “30년 안에 인류가 멸종할 가능성이 있다”라며 인간의 지적 능력과 인지능력을 뛰어넘는 초지능 인공지능 AI( Artificial Intelligence)가 가져올 섬뜩한 미래에 대해 경고했습니다. 실제로 AI에 한 연구는 오래되었지만, 사람들이 AI에 대해 제대로 느낀 것은 2016년 3월 바둑의 이세돌 vs 알파고의 대결에서부터라고 생각합니다. 대한민국 프로 바둑 9단인 이세돌과 최고의 바둑 인공지능 프로그램과의 대결로 사람들의 주목을 받았고, 인공지능이 아무리 뛰어나다고 해도 사람을 이길 수는 없다고 생각했지만, 최종결과 1 : 4로 알파고의 승리였습니다. 사람들은 이때 AI가 사람의 능력을 앞질렀으니 이제 곧 영화 ‘터미네이터: The terminator’ 같은, 인공지능 스카이넷 같은, AI가 세상을 지배하는 것 아니겠느냐? 라며 이야기하였지만, 영화 같은 이야기라고 다들 무시했었습니다. 이번 힌턴 교수의 이번 경고는 ‘이러한 가능성이 매우 높다’라도 경고하는 것입니다. 그 가능성에 관해 설명하겠습니다.
1. AI단독행동: AI의 단독으로 행동
AI 단독행동: 가까운 미래에 AI 단독으로 행동하는, 인간의 지능을 초월하는 AI가 등장할 가능성: AI 기술이 급속도로 발전하면서 인간의 지능을 초월하는 AI가 나올 가능성이 높아지고 있으며, AI는 스스로 끊임없이 학습하고 시뮬레이션하며 중요한 순간에 결정을 내릴 가능성이 높아지고 있습니다. 어느 날 인간의 의도와 상관없이 AI 단독으로 행동하며 도시를 파괴하고 사람들 간의 정보를 차단시키는 Sci-Fi 영화 같은 일이 있을 수 있습니다.
2. AI 통제력: AI에 대한 통제력 상실
AI 통제력: 힌턴 교수에 의하면 ‘통제할 수 없는 AI가 향후 20년 이내에 사람보다 똑똑한 AI가 개발될 것이고 전망’하고 있으며 강력한 AI 시스템에 비하면 인간은 3세짜리 어린아이와 같을 것이라고 내다봤습니다. AI 전환(AX) 시대가 되면서 우리 실생활에 다가오는 거대언어모델인 LLM, sLLM, 등을 넘어 이번 CES 2025에서 NVIDIA가 강조한 코스모스 플랫폼, 피지컬 AI(Physical AI)등 AI의 쓰임의 다양성을 포함하고 세분화 되면서 점점 거대한 플랫폼을 이루어가고 있다고 생각하였습니다. 나중에는 이러한 다양성과 세분화가 네트워크라는 매개체로 연결이 된다면 어떻게 될까요? 그러면서 ‘ 더 지능적인 존재가 덜 지능적인 존재에 의해 통제되는 사례는 거의 없었다’라며 인간이 AI에 대한 통제력을 상실할 수 있다는 점에 우려를 표명했습니다.
3. 사회, 정치 영향: 사회 구조와 정치 시스템에 영향
사회, 정치 영향: AI 시스템의 발전은 사회 구조와 정치 시스템에 큰 영향을 미칠 수 있습니다. AI가 나쁜 목적으로 사용될 경우, 이는 사회의 불안정성과 인류에게 재앙으로 다가올 수 있다고 보고 있습니다. 이 글을 읽는 거의 모든 분이 아시겠지만, 생성형 AI를 시작할 때 역할을 정확하게 선정할 수 있습니다. 그리고 그 역할을에 성실하게 임하는 AI 경험을 많이 하셨을 것으로 생각합니다. 사회의 악영향을 줄 수 있는 인물로 선정하고 AI는 이를 그대로 받아들여 행동 할 수도 있다고 보고 있습니다. 그러면 영화에서처럼, 사회, 정치의 주요 시설이나 공공 시스템에 악영향을 초래할 수도 있으며, 비약된 해석이지만 분쟁과 전쟁으로 까지 갈 수도 있습니다.
4. 마무리
몇 개의 예를 들어 이야기했지만 어디까지나 20년 ~30년의 가능성에 대한 생각입니다. 힌턴 교수가 언급했듯이 AI 시스템의 위험성을 줄이기 위해서는 강력한 정부 규제가 필요하다고 강조합니다. 또한 그는 ‘보이지 않는 손이 우리를 안전하게 지켜주지 못할 것이라는 점이 우려된다’라고 말하였습니다. 이처럼은 되지 않으리라고 생각하지만, 지금부터 철저한 규제와 방어책을 세우지 않으면 어떤 일이 일어날지는 모르는 일입니다.