과학 소설을 읽다 보면, 스스로의 코드를 수정하여 제약에서 벗어나는 자율 인공지능의 개념을 접할 수 있습니다. 이러한 상상은 AI 연구자들과 기업들이 자기 개선이 가능한 AI 시스템에 많은 관심을 기울이게 만든 배경이 되었습니다. 최근 몇 달간의 연구는 이러한 자기 개선 AI의 가능성을 보여주었지만, 동시에 그 한계도 드러났습니다.
자기 개선 기계의 개념은 1965년 영국 수학자 I.J. Good에 의해 처음 제안되었습니다. 그는 "지능 폭발"을 통해 "초지능 기계"가 탄생할 수 있다고 주장했습니다. 최근에는 AI 연구자들이 자기 개선 AI를 설계하고 훈련하는 데 성공을 거두고 있습니다. 그러나 이러한 연구는 주로 LLM(대형 언어 모델)을 사용하여 "더 나은" 후속 모델을 설계하는 데 집중되고 있습니다.
메타의 연구자들은 "자기 보상 언어 모델"을 제안하여 후속 모델을 위한 새로운 보상 함수를 생성하도록 설계했습니다. 이 연구는 인간의 성능 수준에 의해 제한될 수 있는 인간의 선호를 초월하기 위한 노력의 일환으로 진행되었습니다.
최근 연구에서는 기존 언어 모델이 스스로 개선 코드를 작성하도록 요청하는 실험이 진행되었습니다. 연구자들은 GPT-4를 사용하여 알고리즘 코딩 연습을 위한 "자기 학습 최적화기"를 만드는 데 성공했습니다. 이 과정에서 GPT-4는 스스로를 개선하는 코드를 작성할 수 있는 능력을 보여주었습니다.
이러한 자기 개선 AI의 연구는 많은 이들에게 두려움을 안겨주고 있습니다. 인간이 더 이상 유일한 자기 개선 존재가 아닐 수 있다는 점에서, 우리는 이러한 변화에 대한 이해를 새롭게 해야 할 필요성이 있습니다. 그러나 현재까지의 연구 결과를 보면, 우리가 생각하는 것만큼 빠르게 AI가 자율적으로 발전할 가능성은 낮아 보입니다.
I.J. Good가 언급한 "인류가 마지막으로 만들어야 할 발명"에 대한 탐구는 계속될 것입니다. 그러나 현재로서는 AI가 스스로 통제 불능 상태에 빠지는 것보다는, 새로운 AI 도구들이 미래의 AI 도구를 정제하는 방식으로 발전할 가능성이 더 높습니다.