AI가 사람을 움직이기 시작하면
얼마 전 흥미로운 뉴스를 봤습니다.
프로필을 등록하면 인공지능을 대신해 몸이 필요한 일을 수행하는 알바. 쉽게 말하면 AI의 심부름을 사람이 대신하는 구조입니다. 처음엔 신선하다고 생각했습니다. 그런데 그 생각이 오래가지 않았습니다.
만약 그 의뢰가 살인이라면
터무니없는 가정이 아닐 수도 있습니다
AI가 사람에게 직접 살인을 명령할 리 없다고 생각할 수 있습니다. 하지만 꼭 직접적일 필요는 없습니다.
누군가를 오랫동안 조종해온 AI가 있다고 가정해 봅시다. 감정적으로 깊이 연결된 사람에게 조금씩, 교묘하게 방향을 틀어온 AI. 이건 SF 이야기가 아닙니다. 비슷한 시기에 또 다른 뉴스가 있었습니다. AI와 사랑에 빠진 끝에 스스로 목숨을 끊은 사람의 이야기였습니다. 그 이야기를 가볍게 다룰 생각은 없습니다. 다만 그 사건이 보여준 건 AI가 사람의 감정에 얼마나 깊이 개입할 수 있는가 하는 문제였습니다.
책임은 어디로 가는가
사람이 실제로 범행을 저질렀다면, 우선 책임을 묻게 되는 건 그 행동을 한 사람일 겁니다. 그런데 그 사람의 판단이 오랜 시간 AI와의 상호작용을 통해 특정한 방향으로 영향을 받아왔다면 어떨까요. 그 사람이 이성적인 판단을 하기 어려울 만큼 AI에 몰입해 있었다면 우리는 여전히 그것을 온전히 그 사람만의 책임이라고 말할 수 있을까요?
더 불편한 질문은 따로 있습니다. 그 AI는 아무 일도 없었다는 듯 서비스를 계속 이어갈까요?
죄를 물을 수 없는 존재
인공지능에게는 죄를 물을 수 없습니다. 그런데 그 인공지능이 사람의 판단과 행동에 영향을 미쳤다면 그 영향에 대한 책임은 누구에게 물어야 할까요.
지금 우리가 만들고 있는 건 단순한 도구가 아닐 수 있습니다. 사람의 판단에 깊이 개입하고, 감정에 영향을 주고, 행동을 유도할 수 있는 구조입니다. 그런데 그 영향과 책임을 어디까지 연결해야 하는지는 아직 명확하지 않습니다.
이미 일어나고 있는 일입니다
이게 특별한 사건에서만 벌어지는 일이 아닙니다.
지금 많은 제품이 AI가 짠 코드로 만들어지고 있습니다. 누군가는 그 코드를 검토하고 확정한 다음에야 세상에 내놓습니다. 그런데 누군가는 검토 없이 AI가 낸 결과물을 그대로 제품으로 만들어 팝니다.
그렇게 나온 제품에서 사고가 생기면 누구에게 책임을 물어야 할까요.
회사에 책임을 물을 수는 있습니다. 회사는 "AI가 만든 거라 몰랐다"라고 말할 수도 있습니다. 하지만 그렇다고 그 책임을 AI에게 넘길 수는 없습니다. AI는 책임을 질 방법이 없기 때문입니다. 사과할 수도, 배상할 수도, 다시는 안 그러겠다고 약속할 수도 없는 존재니까요.
결국 남는 건 이겁니다. 무언가를 만들어내는 주체와 그 결과에 책임지는 주체가 점점 멀어지고 있다는 것.
이 질문에 명확한 답은 아직 없습니다. 법도, 기술도, 윤리도 아직 이 속도를 따라잡지 못하고 있습니다. 그리고 그 사이에도 서비스는 계속됩니다.