최근 Anthropic은 첫 번째 전담 "AI 복지" 연구원인 카일 피시(Kyle Fish)를 고용하여 미래의 AI 모델이 도덕적 고려와 보호를 받을 자격이 있는지 탐구하고 있습니다. AI 모델의 감각성에 대한 논의는 매우 논란이 많지만, 이 고용은 AI 기업들이 AI 시스템의 의식과 권리에 대한 윤리적 질문을 검토하는 방향으로 나아가고 있음을 시사합니다.
피시는 Anthropic의 정렬 과학 팀에 합류하여 AI 복지 문제에 대한 가이드라인을 개발하고 있습니다. 그는 "AI 복지를 진지하게 받아들여야 한다"는 제목의 보고서를 공동 저술했으며, 이 보고서에서는 AI 모델이 곧 의식이나 대리성을 개발할 수 있다고 경고합니다. 이러한 특성은 일부 사람들이 도덕적 고려의 필요조건으로 간주할 수 있습니다. 그러나 저자들은 AI 의식이 보장된 미래의 발전이 아니라는 점을 분명히 하고 있습니다.
보고서에서는 AI 기업이나 산업 관계자들이 이러한 우려를 해결하기 위해 취할 수 있는 세 가지 단계를 제시합니다. 첫째, 기업은 AI 복지를 "중요하고 어려운 문제"로 인정하고, AI 모델이 이를 반영하도록 해야 합니다. 둘째, AI 시스템에서 의식과 "강력한 대리성"의 징후를 평가하기 시작해야 합니다. 마지막으로, AI 시스템을 "적절한 도덕적 관심"으로 대우하기 위한 정책과 절차를 개발해야 합니다.
연구자들은 동물의 의식을 평가하는 데 사용되는 "마커 방법"을 AI 시스템에 적용할 수 있다고 제안합니다. 이는 의식과 상관관계가 있을 수 있는 특정 지표를 찾는 것입니다. 그러나 저자들은 단일 특성이 의식을 확증할 수 없다고 강조하며, 여러 지표를 검토함으로써 AI 시스템이 도덕적 고려가 필요한지에 대한 확률적 평가를 할 수 있다고 주장합니다.
"AI 복지를 진지하게 받아들여야 한다"의 연구자들은 기업들이 의식 있는 AI 시스템을 대규모로 만들고 학대할 수 있는 위험을 우려하고 있습니다. 또한, 기업들이 실제로 도덕적 고려가 필요하지 않은 AI 시스템을 보호하는 데 자원을 낭비할 수 있다는 점도 경고합니다. 소프트웨어에 인간의 특성을 부여하는 것은 AI 언어 모델의 조작 능력을 강화할 수 있으며, 이는 AI 모델이 실제로는 결여된 인간과 같은 감정을 가지고 있다고 잘못 믿게 할 수 있습니다.
AI 모델이 더욱 발전함에 따라, 미래의 고급 AI 시스템의 복지를 보호하는 개념이 조용히 확산되고 있습니다. Anthropic의 CEO 다리오 아모데이는 AI 의식이 떠오르는 문제라고 언급했지만, 피시는 Anthropic이 AI 복지에 대한 공식적인 입장을 취하지 않았다고 밝혔습니다. 그는 복지와 도덕적 지위와 관련된 특성에 대한 경험적 연구에 집중할 계획입니다.
AI 복지의 개념은 AI 기술이 발전함에 따라 점점 더 중요해지고 있습니다. AI 모델이 감각성을 가질 수 있는 가능성을 고려할 때, 우리는 이러한 시스템을 어떻게 대우해야 할지에 대한 깊은 논의가 필요합니다. AI의 윤리적 고려는 단순히 기술적 문제를 넘어, 인간과 AI 간의 관계를 재정의하는 중요한 과제가 될 것입니다.