레벨 0~5…총 6단계 구성
인간초월 '슈퍼휴먼' 최고
AI통제 불능 우려 대응책
안전지침 마련해 시장 선도
오픈AI 내부에서 인공지능(AI) 안전과 서비스 확장을 놓고 노선 충돌이 벌어진 가운데, 구글이 인공일반지능(AGI)에 대해 처음으로 분류 방법을 제시했다.
AGI란 1997년 마크 구브루드 노스캐롤라이나대 교수가 자기 복제 시스템을 갖춘 군사용 AI 출현을 예고하면서 사용한 개념이다. 그동안 공상과학(SF)에 등장할 법한 단어로 치부된 것이, 현실 세계로 성큼 다가온 것이다. 이는 자율주행차가 한때 상상 속 개념에 불과했지만, 체계적 기준 마련을 계기로 개발에 속도가 붙은 것과 같다. 자율주행차는 미국자동차공학회(SAE) 기준에 따라 레벨 0부터 5까지 6단계로 구성돼 있다.
21일(현지시간) 구글 딥마인드 연구진은 'AGI의 레벨'이라는 논문을 출판 전 공유 사이트인 아카이브에 게재했다. AGI에 대한 개념은 그동안 시대에 따라 시시각각 변했다. 구글 딥마인드는 "AGI에 대한 개념은 컴퓨팅 연구에서 매우 중요하다"면서도 "하지만 때로는 논란의 여지가 큰 개념"이라고 말했다. 다만 이들은 AGI는 이제 철학적 논쟁 대상에서 실용적 개념으로 변경됐다고 진단했다. 오픈AI의 수석과학자인 일리야 수츠케버가 "AI에 약간의 자의식이 있는 것 같다"고 주장하면서 AI 안전이 중요하다고 강조한 것이 대표적이다.
구글 딥마인드는 AGI를 크게 레벨 0부터 5까지 여섯 가지로 규정했다. 레벨0은 'AI 아님(NO AI)', 레벨1은 숙련되지 않은 성인과 유사한 '신진(Emerging)', 레벨2는 숙련된 성인의 상위 50% 이상인 '유능함(Competent)', 레벨3은 숙련된 성인의 상위 10%인 '전문가(Expert)', 레벨4는 숙련된 성인의 1%인 '거장(Virtuoso)', 레벨5는 숙련된 성인 능력을 초월하는 '슈퍼휴먼(Superhuman)'이다. 또 용도에 따라서 모든 부분을 섭렵할 수 있는 일반 AGI와 한 분야만 다루는 특수 AGI로 구분했다. 일반 AGI를 살펴보면, 레벨0은 2001년 AWS가 론칭한 크라우드소싱 웹페이지가 대표적이고 레벨1은 오픈AI 챗GPT·구글 바드·메타 라마2를 꼽았다. 하지만 범용 AGI에선 레벨2 이상이 없었다.
반면 특수 AGI는 이미 레벨5까지 진입했다. 단백질 구조를 밝혀내는 AI 알파폴드가 대표적이다. 단백질 구조를 밝혀내려면 짧게는 몇 개월, 길게는 몇 년이 걸리지만 알파폴드는 2~3시간 만에 이를 분석해낸다. 구글 딥마인드는 이 같은 AGI 기준을 만족할 수 있는 요건에 대해 기능성, 일반성·성능성, 잠재력, 메타인지(생각에 대한 생각), 생태학적 타당성(보편성), 경로성을 꼽는다. AGI는 과정이 아닌 기능 그 자체며, 새로운 작업을 학습하는 능력을 갖춰야 하고, 완제품이 아니더라도 잠재력이 있으면 그만이며, 인간이 중시하는 가치를 달성할 수 있어야 한다.
AGI에 대한 개념과 용어는 오래됐지만 이를 체계적으로 정리한 것은 이번이 처음이다. 일각에서는 이 같은 AGI가 도래할 것을 대비해 사전에 안전 지침을 준비하자는 목소리가 크다. AGI 시스템은 구글 알파제로나 알파폴드처럼 인간의 상상을 뛰어넘어 행동하기 때문에 딥페이크, 속임수, 조작 등에 사용되더라도 인간이 간파하지 못할 가능성이 높다.
AGI가 자의식을 갖고 인간을 초월한 능력을 발휘할 경우 통제 불능 상태에 빠질 수 있으므로 이에 대비해야 한다는 목소리도 나오고 있다. 대표적인 것이 오픈AI 내 초인공지능 정렬(Superalignment) 프로젝트다. AI 목표가 인간의 가치와 일치하도록 함으로써 AGI가 출현하더라도 인간에게 해를 미치지 않도록 하는 작업이다. 종전 안전 지침은 AI 시스템이 수행하는 작업을 더 우수한 인간이 평가하고 점검할 수 있다고 가정하기 때문에 더 우월한 AGI가 출현하면 안전 점검조차 불가능하다는 설명이다.
[이상덕 기자 / 원호섭 기자]
