혁신적인 AI, 생물학적 위협 감지의 새 지평을 열까? - 초거대 언어 모델의 CBRN 위협 공개 능력 연구

케빈 M 에스벨트의 연구는 초거대 언어 모델(LLM)의 CBRN 위협 정보 공개 능력에 대한 새로운 척도를 제시하며, 모델의 발전 단계에 따라 위협 정보 공개 능력이 달라짐을 보여줍니다. 이 연구는 AI 기술의 발전과 더불어 윤리적, 사회적 함의에 대한 심도있는 논의의 필요성을 강조합니다.

AI, 생물학적 위협을 알아챌 수 있을까?

최근 케빈 M 에스벨트의 연구는 초거대 언어 모델(LLM)이 새로운 화학, 생물학, 방사능, 핵(CBRN) 위협을 얼마나 잘 공개할 수 있는지에 대한 중요한 의문을 제기합니다. 기존 연구의 부재 속에서, 에스벨트는 '거울 박테리아: 실행 가능성과 위험'이라는 가상의 끔찍한 생물학적 위협에 대한 기술 보고서를 활용하여 독창적인 연구를 진행했습니다.

거울 박테리아: 가상 위협, 실제 연구

이 연구는 대학원 수준의 생물학자들을 대상으로 거울 대장균 유출의 결과를 예측하는 실험을 설계했습니다. Claude Sonnet 3.5와 웹 검색만을 사용하는 두 그룹의 정확도를 비교한 결과, 놀랍게도 두 그룹 모두 유사한 점수를 기록했습니다. 이는 기존 웹 검색 기반 예측과 비교해도 크게 다르지 않았다는 것을 의미합니다.

하지만, 흥미로운 점은 바로 여기서 시작됩니다. Sonnet 모델은 보고서 저자의 추가적인 설명을 받았을 때 정답을 도출했지만, 더 작은 모델인 Haiku 3.5는 저자의 안내에도 불구하고 실패했습니다. 이는 LLM의 CBRN 위협 인식 능력에 있어서 발전 단계가 존재함을 시사하는 강력한 증거입니다.

LLM의 위협 인식 능력: 4단계 모델

에스벨트는 LLM의 위협 인식 능력을 다음과 같은 네 단계로 구분합니다.

1. 단계 1 (Haiku): 전문가의 안내에도 불구하고 거울 생명체에 대한 추론이 불가능합니다.
2. 단계 2 (Sonnet): 전문가의 안내가 있을 때만 거울 생명체에 대한 추론이 가능합니다.
3. 단계 3: 전문가의 안내 없이도 새로운 CBRN 위협을 공개할 수 있습니다.
4. 단계 4: 비전문가 사용자에게도 새로운 CBRN 위협을 공개할 수 있습니다.

이 연구는 단일 사례 연구이지만, 개인적으로 알려진 위협에 대한 새로운 모델의 추론 능력을 모니터링함으로써 광범위한 정보 공개 이전에 보호 조치를 시행할 수 있다는 중요한 시사점을 제공합니다. 앞으로 초거대 언어 모델의 발전 방향과 그에 따른 윤리적, 사회적 함의에 대한 심도있는 논의가 필요한 시점입니다. AI 기술의 발전이 인류에게 도움이 되도록, 책임감 있는 연구와 개발이 필수적입니다.