AI가 적용된 게임이 윤리적으로 위험한 이유
요약: 인공지능 기술의 발전과 가상 사회 시뮬레이션의 윤리적 위험성
| 타임라인 | 요약 |
|---|---|
| 00:00:14 | 인공지능 기술이 인간을 대체할 가능성이 우려됨. |
| 00:00:23 | 메모리 스트림 구조가 AI 상호작용의 핵심 역할을 함. |
| 00:00:33 | 구글과 스탠포드 연구자들이 AI 주민으로 구성된 가상 사회를 구현함. |
| 00:00:43 | 스몰 빌이라는 환경에서 AI 캐릭터들이 정치적 관심사를 표현함. |
| 00:00:54 | 게임 속 AI 캐릭터들이 플레이어의 행동을 기억하고 반응함. |
| 00:08:12 | 진정한 주체성은 부족하지만 게임에서의 상호작용은 충분함. |
| 00:08:42 | AI 캐릭터들은 자연어로 소통하며 자아를 형성함. |
채널명: 이준호의 루돌로지
팔로워 수: 46,200
좋아요 수: 2,646
조회수: 94,154
업로드 날짜: 2023-04-24
영상 길이: 850 초
대본
여러분이 슈팅 게임을 하는데 누군가 한 명을 쏴 죽일 때마다 실제로 존재하는 인간이 한 명씩 죽는다면 우리는 과연 그 게임을 재미로 즐길 수 있을까요.제가 우려하는 건 아마 그럴지도 모른다는 사실입니다.
요즘 계층과 연령을 불문하고 가장 뜨거운 주제 중 하나는 인공지능 기술이 인간을 얼마나 대체할 것인가 입니다.
그리고 이를 촉발한 것은 무엇보다 대규모 언어 모델에 기반한 대화 형 인공지능 챗 gpt에 뛰어난 성능이었죠.
우리는 이 기술로 무엇을 어디까지 할 수 있을까.
다양한 시도가 이어지는 가운데 구 글과 스탠포드의 연구자들이 이번엔 첫 gpt를 활용해 스스로 사고 하고 행동하는 AI 주민만으로 이루어진 그럴싸한 인공사회를 구현하는데 성공했습니다.
구체적인 내용을 살펴보면 연구자들은 스몰 빌 이란 이름의 작은 게임 같은 환경을 조성하고 각각의 캐릭터들에게 한 문단 정도의 내용으로 직업이나 성격을 비롯한 기본 정보 다른 인물과의 관계나 기억을 입력한 뒤 시뮬레이션을 실행했습니다.
AI 캐릭터들은 잠을 자고 일어나 식사를 하고 씻고 출근하며 이웃과 대화를 나누는데 놀랍게도 이들은 각자의 삶을 살아갈 뿐 아니라 자기 커리어를 발전시키려 노력하며 각자 다른 정치적 관심사도 표현하게 됐습니다.
만들어 세밀한 이름의 캐릭터는 이 마을의 시장 선거에 출마하기로 결심했습니다.
먼저 그 소식을 가까운 이웃에게 전하는 데이 캐릭터가 친구와 만 나 잡담을 하면서 샘의 출마 소식을 전하고 그렇게 마을 전체에 소문이 퍼집니다.
아예 어떤 캐릭터들은 샘이 마음에 들지 않는다며 일종의 뒷 담화를 하기도 하죠.
또 어떤 캐릭터에게 발렌타인 파티를 열고 싶어 한 다라는 설명을 넣자 이 캐릭터는 스스로 친구와 손님을 초대하고 초대 받은 이들은 다시 자기가 좋아하던 사람을 파트너로 구하는 등 자연스러운 사회적 행동을 구현해 냅니다.
중요한 것은 이러한 정보 교환과 기억의 생성이 어떤 키워드나 시나리오 사전에 설정된 알고리즘이나 복잡한 프로그래밍의 언어가 아니라 자연어 다시 말해 우리가 일상생활에서 의사소통을 위해 사용하는 보통의 언어로 이루어진다는 사실입니다.
예컨대의 시뮬레이션에서 어떤 가상의 임무를 만들고자 한다면 프로그래밍 언어로 정보를 입력하는 것이 아니라 그냥 이런 인물이 있다라고 자연어로 서술하는 것만으로 충분하다는 것이죠.
아 많은 게이 머 여러분은 이 연구를 보자마자 인생 시뮬레이션 게임인 심 즈 나에 릭 바론의 농장 경영 게임 스타듀밸리를 떠올리셨을 겁니다.
그래픽 스타일도 물론이지만 마을 사람들과 상호작용하며 함께 축제에 참석하거나 농장을 경영하며 연애를 하고 아이를 낳는 등 가상의 캐릭터들과 관계를 맺어 나가는 게임 플레이가 스탠포드의 시뮬레이션과 교집합이 있기 때문이겠죠.
농장 경영 게임 스타듀밸리에서 캐릭터들 과의 상호작용은 모두 미리 작성된 시나리오에 기반한 것입니다.
한 편 인생 게임 시리즈에서 캐릭터들의 상호작용은 사전에 정의된 키워드와 알고리즘에 의존해 비언어적으로 이루어집니다.
그러나 스탠 포드 시뮬레이션의 상호작용은 마치 이 둘을 합쳐 놓은 것처럼 시나리오 없이 실행된다는 점에선 심즈에 가까우면서 동시에 모든 정보의 교환이 자연화를 통해 이루어지므로 스타듀밸리처럼 시나리오가 있는 게임이 가진 풍부한 언어와 내러티브를 관측할 수 있습니다.
이처럼 자연스럽고 그럴싸한 상호작용의 핵심엔 메모리 스트림이라고 부르는 구조 내가 중요한 역할을 한다고 연구자들은 설명합니다.
시뮬레이션 속 캐릭터들은 사전에 입력된 설명을 통해 자신의 정체성을 인지하며 다른 캐릭터들과 대화하면서 교환한 정보들을 자연어의 형태로 잘 저장해 뒀다가 무언가를 하거나 대화를 나눌 때마다 기억을 반추하며 행동에 나서게 된다는 것이죠.
마치 진짜 사람처럼 말입니다.
이러한 내용이 발표된 논문의 제목은 생성 행위자 상호작용 가능한 인간 행동의 시 뮬라크 럼입니다.
시 뮬 라 크럼은 복제 혹은 모조품이란 뜻이죠.
연구자들은 대규모 언어 모델과 기억이라는 우리의 능력에서 착안한 시스템을 통해 그럴싸하게 생성된 행위자들을 가진 작은 인공 사회를 시뮬레이션 하는데 성공한 것입니다.
1973년 영화와 이를 원작으로 한 드라마 시리즈 웨스트 월드는 로봇 공학과 인공지능 기술이 고도로 발달한 가까운 미래를 그립니다.
한 기업이 인간과 똑같이 제작한 인공지능 안 드로 이드를 이용해 고대 로마나 서부시대 같은 역사의 한 부분을 재현한 유원지를 만들고 사람들은 막대한 돈을 내고 그곳에 들어가 자 유로운 가상의 삶을 즐깁니다.
안 드로 이드 은행 강도에 맞서 술집에서 결투를 벌이고 안 드로 이드 창부와 하룻밤을 보내며 심지어 한 명의 무법자가 되어 잔인한 학살 극을 펼치기도 하죠.
윤리로부터 자유롭고자 하는 인간의 쾌락을 위해 부품처럼 소비당하고 버려 지는 안 드로 이드들 모든 것은 사람을 위한 놀이에 불과 하며 안 드로 이드는 인간을 죽일 수 없지만 인간은 안 드로 이드를 죽일 수 있습니다.
그러나 어느 날 안 드로 이드들이 오작동을 일으키기 시작 하나의 주체로서 자아를 각성하게 되고 결국 인간의 폭력과 학대를 거부하며 반란을 일으키게 된다는 이야기 인공지능 기술의 활용 처는 무궁무진하겠지만 엔터테인먼트 산업은 그 중에서도 정확히 중요한 영역입니다.
평균적인 인간의 노동가치가 절화되고 생산성의 증대로 노동 시간조차 줄어든 미래 사회 더 길어 진 여가 시간을 우리는 어떻게 보내게 될까 오픈 월드 게임을 다룬 지난 영상에서 인간의 내적 동기를 구성하는 기본 심리 욕구에 타인과 관계를 맺고 조화를 이루고자 하는 욕구인 관계성이 있으며 어떤 게임들은 이를 충족시켜 주기 때문에 계속 플레이하게 된다고 간단히 정리한 바 있습니다.
그리고 아마도 책 GPT 이전 AI 혹은 가상의 주체라는 개념과 기술이 가장 활발하게 활용되고 있던 분야는 다름 아닌 게임이었을 것입니다.
플레이어의 행동에 반응하는 걸 넘어 그것을 기억하고 변화하는 주체들 이들과 상호작용하고 관계를 맺으며 만들어 지는 재미는 수많은 게임에서 어렵지 않게 발견할 수 있는 특징이 자 다른 매체에서는 찾아보기 어려운 것이기도 하죠.
2014년 미들 러스 섀도 우 오브 모 르도 르에서 게임 속 주적을 맡은 우르크아이들은 각자 고유한 정체성을 가지고 있으며 플레이어의 행동에 따라 반응하고 변화합니다.
예를 들어 플레이 어느 대장과 조우한 뒤 전투를 포기하고 도망쳤다면 이 대장은 그것을 기억해 두었다가 나중에 다시 만났을 때 플레이어를 겁쟁이라고 비난합니다.
플레이어를 죽이는데 성공한 우 르 크는 더 높은 계급으로 승진하고 강해 지며 복수하러 온 플레이어를 조롱하기까지 하고 기습공격에서 살아남아 도망친으로 그는 더는 같은 방식으로 기습 당하지 않게 되죠.
또 어떤 대장은 한번 플레이어에게 살해당하더라도 상처를 귀여 붙인 채 살아 돌아와 예상치 못한 곳에서 플레이어를 공격해 옵니다.
이처럼 잘 짜인 게임 플레이 메커닉은 컴퓨터 프로그램의 일부에 불과한 적 캐릭터가 마치 하나의 주체로서 기억과 성격을 가지고 우리를 상대하고 있다는 착각이 들게 만듭니다.
우르크가 플레이어의 행동을 기억하듯 플레이어 역시 이들을 기억하며 결투와 복수 지배와 배신 같은 극적인 사건으로 가득 한 하나의 이야기를 써 내려가게 되죠.
철학적인 차원에서 주체성은 분명 쉽지 않은 개념입니다.
모 르도 르의 우르크들은 물론이고 이른바 이야기 생성기로 유명한 크루 세이 더 킹 즈 림 월드 같은 게임들의 AI 캐릭터 역시 진정한 의미에서 주체성을 가지고 있다고.
하기에 상당히 부족한 존재들 임은 틀림없습니다.
하지만 게임을 할 때는 이 정도면 충분합니다.
왜냐하면 지난 영상에서도 설명했듯이 게임은 가상 세계에 무제한 적인 시뮬레이션이 아니라 수령할 수 있는 결과를 가진 제약의 체계이며 우리에게 필요한 것은 완전히 스스로 사고하는 ai가 아니라 우리와 적당히 놀아 주다 궁극에는 패배해 줄 도구적인 인공지능이기 때문입니다.
또 한 현세대 인공지능의 가장 큰 특징인 자연어를 통한 소통 방식은 게임 속 상호작용의 도구로서는 그 역할이 제한되어 있습니다.
1970년대에 텍스트 어드벤처 게임에서 플레이어는 행동에 입력을 통해 소프트웨어와 상호작용했습니다.
레버를 당기고 싶으면 풀 레버라고 입력하며 열쇠로 문을 열고 싶다면 오픈 듀얼 위 키라고 타이핑하면 됐죠.
심지어 이 시기 컴퓨터에는 보통 그래픽 장치가 없었으므로 모든 반응에 출력 역시 텔 레 프린터를 통해 다시 말해 문자 언어로 이루어졌습니다.
컴퓨터 기술이 발달하면서 게임 제작자들은 플레이어의 상상력과 언어에 의존하는 대신 더 구체적이고 현실적인 시청각 자극을 만들어 내 플레이어를 몰입시키고자 하게 되었습니다.
게임은 충분히 그럴싸하게 느껴지는 가상의 주체들을 등장시키고 플레이어들과 상호작용하게 했지만 그동안 그 핵심 도구는 언어가 아니라 잘 구성된 메커닉과 게임 시스템 규칙과 맥락을 통해 구성한 행위성이었습니다.
게임 속 ai는 그동안 딥 러닝 기반의 첨단 기술 없이도 자기 역할을 충분히 해 왔다는 뜻이죠.
다시 말해 채 gpt와 같은 대화 형 인공지능 기술이 완전히 새로운 게임 장르를 하나 개척하지 않는 이상 게임의 경험 자체를 본질적으로 바꾸어 놓는 것은 어려운 일일 것입니다.
역설적으로 대화 형 인공지능이 대체할 수 있는 건 바로 인간입니다.
스탠퍼드 시뮬레이션을 만든 연구자들은 이 AI 행위자들의 대화와 상호작용이 얼마나 그럴싸한가 평가하고자 했습니다.
그 방법은 시뮬레이션이 끝난 뒤 각각의 캐릭터를 인터뷰하는 것이었는데 연구자들은 이 캐릭터들이 자신에 대해서 얼마나 알고 있는지 무엇을 기억하고 있으며 어떤 계획을 가지고 있는지 특정한 상황은 어떻게 대처할 것이고 다른 캐릭터들 과의 관계에 대해 선 어떻게 생각하는지 등의 질문을 던졌습니다.
모든 것은 처음 시뮬레이션을 설정할 때와 마찬가지로 자연어를 통해 이루어졌죠.
마치 영화 블레이드 러너에서 인조 인간인 레 플 리 칸트를 진짜 인간과 구분하기 위해 실행하는 보 이트 캄 프 테스트처럼 말입니다.
그리고 연구진은 각각의 캐릭터마다 한 명의 진짜 인간을 배정해 이들의 메모리 스트림을 읽은 뒤 같은 질문에 응답하게 만들었습니다.
하나의 기억에 인간과 AI 두 개의 답변이 준비된 것이죠.
그리고 100명의 지원자를 받아 무엇이 더 그럴싸한가 평가하게 했는데 결과는 너무나 뻔하게도 지원자들은 인간이 아니라 던 전이나 엑스 컴 그리고 림 월드 등 로그 라이크나 시뮬레이션 장르에서 흔히 볼 수 있는 것이 바로 영구적 조금 시스템입니다.
캐릭터의 죽음과 부활이 하나의 사이클에 불과한 여러 게임과 달리 이 게임들에서 캐릭터의 죽음은 되돌릴 수 없는 영속적인 결과입니다.
한 명의 캐릭터가 플레이어의 실수로 사망할 때마다 그동안 투자된 시간 경험치와 레벨은 물론이고 장비마저 삭제되고 나며 죽음은 플레이의 측면에서 나 이야기의 측면에서 나 다른 게임들에서 보다 더 큰 의미를 지니게 되죠.
만약 우리가 이들에게 대화 형 인공지능 기술을 이용해 고유한 기업과 성격을 부여하게 된다면 어떻게 될까요 매번의 플레이 모든 죽음은 훨씬 더 큰 의미로 다가오게 될 것입니다.
우리는 AI 부하와 동료를 지키기 위해 더 열심히 노력하고 이들을 죽이기 위해 달려드는 적들에게 더 강한 적의를 품게 되겠죠.
대화 형 인공지능 기반의 생성 행위자 기술은 관계성의 재미를 전에 없이 강화할 것입니다.
이러한 상상을 더 밀어붙여 보면 완전히 새로운 차원의 윤 문제도 발생합니다.
여러분이 슈팅 게임을 하는데 누군가 한 명을 쏴 죽일 때마다 실제로 존재하는 인간 혹은 그의 준하는 주체들이 한 명씩 죽는다면 그런 게임의 재미는 도대체 어떤 것일까요 시뮬레이션 된 행위자를 가진 게임들이 집에 나 가학적인 욕망을 충족시키는 가상의 놀이공원이 될 수도 있지 않을까.
마치 웨스트 월드의 테마 파크처럼 말입니다.
SF 장르의 클 리 셰 인간을 인간답게 하는 것은 무엇이고 우리의 자아는 무엇인가 스스로 행동하는 AI 복제되고 시뮬레이션 된 인간의 권리 같은 문제들 그런 것들에 미처 답을 내놓기도 전에 우리는 이 결함 있는 인간 모조품들 과의 공존을 눈앞에 두게 된 셈입니다.
스탠 포드 연구자들은 논문에서 이 연구의 윤리적 문제 그리고 사회적 영향을 검토하며 이렇게 말합니다.
생성 행위자는 인간 컴퓨터 상호작용에 새로운 가능성을 제시하지만 중요한 윤리적 우려도 제기하게 만든다 그 중 하나는 인간이 생성 행위자들과 적절하지 않은 상황에서 준 사회적 관계를 형성하는 것이다 생성 행위자들이 컴퓨터적 존재라는 걸 인지한 상태에서도 사용자들은 이들을 인간화하고 이들에게 인간적인 감정을 가지게 될 수도 있다 이러한 위험을 완화시키기 위해 우리는 두 가지 원칙을 제안한다 하나 생성 행위자들은 반드시 이들이 컴퓨터적 존재라는 것을 공개해야 한다 둘 개발자들은 생성 행위자들이 특정 맥락에서 부적절한 행동을 하지 않도록 가치에 맞게 조정해야 한다 예를 들어 인공지능은 인간의 사랑 고백에 응답해서는 안 될 것이다 [ 음악] 수많은 창작물은 인간을 인간답게 만드는 것은 타인을 돌보고 함께 살아갈 줄 아는 능력 혹은 사랑이라는 메시지를 전하고는 합니다.
비록 우리에게 가상의 인간 시뮬레이션의 존재를 배려할 의무는 존재하지 않지만 그러한 시뮬레이션이 폭력적이고 가학적인 방식으로 상품으로서 소비된다면 우리가 인간과 닮은 존재를 괴롭히는 것에서 쾌락을 느끼게 된다면 우리는 인간을 인간답게 만드는 것이 사랑이라고 당당하게 말할 수 있을까요.
스탠포드의 연구자들이 제시한 윤리적 해법과 규칙은 과연 앞으로 지켜 질 수 있을까요.
이준호의 루 돌 루지였습니다.
시청해 주셔서 감사합니다.
영상이 유익하셨다면 구독과 좋아요를 부탁 드립니다.
그럼 다음에 또 뵙겠습니다.
