비판론자들은 위험성에 집중하고 이점을 과소평가한다
llustration: Nicholas Kempton
2024년 11월 7일
혁신의 개방성은 인공지능(AI) 붐의 핵심에 있습니다. OpenAI의 기반이 되는 신경망 "트랜스포머" - GPT의 T - 는 원래 구글 엔지니어들이 연구 논문으로 발표한 것입니다. 이러한 신경망을 구축하는 데 사용되는 TensorFlow와 PyTorch는 각각 구글과 메타가 만들어 세상과 공유했습니다. 오늘날 일부는 AI가 너무 중요하고 민감해서 모든 사람이 접근할 수 없어야 한다고 주장합니다. "오픈소스" 모델들 - 즉, 기본 코드를 모든 사람이 자유롭게 수정하고 재사용할 수 있도록 공개하는 것 - 은 종종 위험한 것으로 여겨집니다.
오픈소스 AI에 대해 여러 가지 비판이 제기됩니다. 하나는 미국의 경쟁국들을 돕고 있다는 것입니다. 11월 1일, 중국의 연구진들이 메타의 오픈 대규모 언어 모델인 Llama 2를 가져다가 군사적 목적으로 개조했다는 사실이 밝혀졌습니다. 오픈소스 AI에 대한 또 다른 비판은 테러리스트와 범죄자들의 사용으로, 이들이 악의적이거나 해로운 활동을 막기 위해 신중하게 구축된 안전장치를 제거할 수 있다는 것입니다. AI 모델 제작사인 Anthropic은 오픈 모델의 "고유한" 위험성에 대해 경고하며, 예를 들어 생물학적 무기 제조에 관한 데이터로 "미세 조정"될 수 있는 능력과 같은 위험을 지적하며 긴급한 규제를 촉구했습니다.
사실, 오픈소스 모델은 다른 기술처럼 악용될 수 있습니다. 하지만 이러한 사고는 오픈소스 AI의 위험성에 너무 많은 비중을 두고 이점은 과소평가합니다. 생물학적 무기를 만드는 데 필요한 정보는 이미 인터넷에 존재하며, 마크 저커버그가 주장하듯이 제대로 된 오픈소스 AI는 공격자보다 방어자에게 더 도움이 될 것입니다. 게다가 일부 측면에서 중국의 자체 개발 모델들은 이미 메타의 모델만큼 좋습니다.
한편, 오픈소스 소프트웨어의 이점은 명백합니다. 이는 전체 기술 섹터의 기반이 되며, 수십억 명이 매일 사용하는 기기들의 동력이 됩니다. 팀 버너스리가 CERN에서 공공 도메인으로 공개한 웹의 소프트웨어 기반은 오픈소스입니다. 스포티파이가 수백만 명에게 음악을 스트리밍하는 데 사용하는 Ogg Vorbis 압축 알고리즘도 마찬가지입니다.
소프트웨어를 무료로 제공하는 것은 오랫동안 개발자들이 자신들의 코드를 더 강력하게 만드는 데 도움을 주었습니다. 이를 통해 그들은 자신들의 작업의 신뢰성을 입증하고, 엄청난 양의 자원봉사 노동력을 활용하며, 경우에 따라서는 사용자들에게 기술 지원을 판매함으로써 수익을 올릴 수 있었습니다. 개방성은 AI 혁신의 기반이 되어야 합니다. 만약 인공지능 기술이 지지자들이 말하는 만큼의 잠재력이 있다면, 개방형 혁신은 권력이 몇몇 실리콘밸리 기업들의 손에 집중되는 것을 막는 방법이 될 것입니다.
폐쇄형 모델들도 민감한 용도나 최첨단에서 수행되어야 하는 작업들을 위해 그들의 역할이 있을 것입니다. 하지만 오픈 또는 부분적으로 오픈된 모델들도 마찬가지로 중요할 것입니다. 업계 단체인 오픈소스 이니셔티브는 모델을 다운로드하여 원하는 대로 사용할 수 있고, 기본 학습 데이터에 대한 설명이 제공되는 경우에 모델을 오픈소스로 정의합니다. 알리바바와 메타와 같은 대형 연구소의 오픈 모델 중 어느 것도 이 자격을 갖추지 못했습니다. 하지만 부분적으로 오픈된 플랫폼을 제공함으로써, 연구소들은 다른 이들이 자신들의 모델을 이해하고 때로는 그들의 기술을 바탕으로 발전시킬 수 있게 합니다.
오픈소스 이니셔티브가 메타의 모델들이 오픈소스가 아니라고 말하는 한 가지 이유는 접근이 제한되어 있기 때문입니다. 특히 월간 사용자가 7억 명 미만인 애플리케이션으로 사용이 제한됩니다. 하지만 메타는 앞으로 더 개방하는 것이 자신들의 이익에 부합한다는 것을 알게 될 수 있습니다. 더 많이 개방할수록, 개발자들에게 그들의 플랫폼이 더 매력적이 될 수 있고, 미래의 슈퍼스타 애플리케이션이 그들의 기술을 바탕으로 성장할 가능성이 더 높아질 것입니다.
정부들도 안전 규제를 균일하게 적용하고, 연구를 폐쇄적으로 만드는 제한이나 지적재산권 보호를 피함으로써 오픈소스 AI가 번성하도록 허용해야 합니다.인공지능 분야에서도 다른 많은 소프트웨어와 마찬가지로, 혁신은 개방된 환경에서 번영합니다.
#AI #META