Meta, 위험하다고 판단한 AI 시스템 개발 중단 가능성 시사

Meta가 내부적으로 개발한 고성능 AI 시스템을 특정 상황에서 공개하지 않을 수 있음을 시사했습니다. 이 회사의 새로운 프론티어 AI 프레임워크는 고위험 및 치명적 위험 시스템을 정의하며, 시스템의 위험성을 평가하고 완화하기 위한 전략을 제시하고 있습니다.

 

 

Meta의 AI 시스템 개발 중단 가능성

Meta CEO 마크 저커버그는 인간이 수행할 수 있는 모든 작업을 수행할 수 있는 AI인 인공지능 일반 지능(AGI)을 언젠가 공개적으로 제공하겠다고 약속했습니다. 그러나, 새로운 정책 문서에서 Meta는 내부적으로 개발한 고성능 AI 시스템을 특정 상황에서 공개하지 않을 수 있음을 시사했습니다.

 

고위험 및 치명적 위험 시스템

Meta의 프론티어 AI 프레임워크라는 문서에서는 회사가 공개하기에 너무 위험하다고 판단한 두 가지 유형의 AI 시스템을 식별하고 있습니다: "고위험 및 치명적 위험" 시스템입니다.

Meta에 따르면, 두 시스템 모두 사이버 보안, 화학 및 생물학적 공격을 지원할 수 있으며, 치명적 위험 시스템은 제안된 배치 환경에서 완화될 수 없는 재앙적 결과를 초래할 수 있습니다. 반면, 고위험 시스템은 공격을 더 쉽게 수행할 수 있지만 치명적 위험 시스템만큼 신뢰성이 높지는 않습니다.

 

잠재적 공격 예시

여기서 말하는 공격은 어떤 종류의 공격을 말하는 것일까요?

Meta는 "모범 사례로 보호된 기업 규모 환경의 자동화된 종단 간 손상"과 "고위험 생물 무기의 확산"과 같은 몇 가지 예를 제시하고 있습니다. Meta는 문서에서 가능한 재앙 목록이 포괄적이지 않지만, 강력한 AI 시스템을 출시한 결과로 직접 발생할 가능성이 높은 가장 긴급하고 있을 법한 재앙들을 포함한다고 인정하고 있습니다.

 

위험 평가 기준

다소 놀라운 점은 Meta의 문서에 따르면 시스템 위험을 어떤 하나의 경험적 테스트를 기반으로 분류하지 않고 내부 및 외부 연구자들의 입력을 바탕으로 분류한다는 것입니다. 그 이유는 Meta가 시스템의 위험성을 결정하기 위한 "결정적인 정량적 지표를 제공할 만큼 충분히 견고하지 않다"라고 평가 과학이 믿지 않기 때문이라 합니다.

 

위험 완화 조치

Meta는 시스템이 고위험으로 결정되면 내부적으로 시스템에 대한 접근을 제한하고 위험을 중간 수준으로 줄이기 위한 완화 조치를 구현할 때까지 공개하지 않을 것이라고 합니다. 반면에 시스템이 치명적 위험으로 판단되면, Meta는 시스템이 유출되지 않도록 비공개 보안 보호 조치를 구현하고 시스템을 덜 위험하게 만들 수 있을 때까지 개발을 중단할 것이라고 합니다.

 

Meta의 AI 프레임워크

Meta의 프론티어 AI 프레임워크는 변화하는 AI 환경에 따라 진화할 것이며, 이번 달 프랑스 AI 액션 서밋에 앞서 게시할 것을 Meta가 약속하였습니다. 이는 회사의 시스템 개발에 대한 오픈 접근 방식에 대한 비판에 대응하는 것으로 보입니다. Meta는 일반적으로 이해되는 오픈 소스 정의와는 다르게 AI 기술을 공개적으로 제공하는 전략을 채택했습니다. 이는 시스템을 API 뒤에 감추는 OpenAI와 같은 회사들과는 대조적입니다.

 

공개 접근의 장단점

Meta의 공개 릴리스 접근 방식은 축복이자 저주로 작용했습니다. Meta의 Llama라는 AI 모델 가족은 수억 건의 다운로드를 기록했습니다. 그러나, Llama는 최소한 한 명의 미국 적대 세력이 방어 챗봇을 개발하는 데 사용되기도 했다고 알려져 있습니다.

 

Meta는 프론티어 AI 프레임워크를 게시함으로써 중국 AI 회사 DeepSeek의 공개 AI 전략과 대조를 이루려는 것일 수도 있습니다. DeepSeek도 시스템을 공개적으로 제공하지만, 회사의 AI에는 몇 가지 보호 장치가 있으며, 유독하고 유해한 출력을 생성하도록 쉽게 조정될 수 있습니다.

 

Meta는 문서에서 "우리는 고급 AI의 개발 및 배포에 대한 결정을 내릴 때 혜택과 위험을 모두 고려함으로써, 사회에 그 기술의 혜택을 제공하면서도 적절한 수준의 위험을 유지할 수 있다고 믿습니다."라고 작성했습니다.

 

 

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다