[게임] AI가 적용된 게임이 윤리적으로 위험한 이유

대화형 인공지능 챗 GPT와 대규모 언어 모델의 발전으로 인공사회를 구현하는 시도가 이루어지고 있음

연구자들은 작은 게임 환경에서 AI 캐릭터(생성 행위자)들을 자연어로 설명하고 시뮬레이션을 실행하여 자연스러운 사회적 행동을 구현하였음

이러한 상호작용의 핵심은 메모리 스트림(기억의 흐름)이라는 구조로 AI 캐릭터들이 정보를 교환하고 기억하고 행동하는 것임

게임 산업에서 AI 기술의 활용은 무궁무진하며, 인간의 관계성 욕구를 충족시켜주는 게임은 플레이어들에게 계속해서 재미를 제공함

그러나 AI 기술이 게임에 적용되면서 발생할 수 있는 윤리적 위험도 있음

예 : 인간 - 컴퓨터적 존재가 부적절한 사회적 관계를 맺을 가능성 (인간이 생성 행위자를 의인화하여 과몰입)

이러한 위험을 막기 위해 

① 생성 행위자들은 자신이 컴퓨터적 존재라는 것을 공개해야 함

② 개발자들은 생성 행위자들이 부적절한 행동을 하지 않도록 통제해야 함 (예 : 인간의 사랑 고백에 응답 X)

#인공지능 #LLM #NPC #생성행위자 #인공사회 #메모리스트림 #웨스트월드 #스몰빌 #루돌로지