애초에 분신에게 인격을 부여할 때 고객의 인격 중 가장 긍정적인 면만을 취해 최적화했다. 이건 확정적이지 않은가. 누가 자신의 제품이 고객의 형편없는 부정적인 면을 모방해서 반응하도록 내버려 둔단 말인가? 인격을 최적화하는 건 필연적이다. 화낼 줄 모르는 것도 잘못이란 말인가?
- 당신은 어디에 있지 中
왜 사람은 망각할까? 왜 한때 더없이 중요하다고 생각했던 기억은 시간이 지나면 역시 옅어질까? 하는 슬픈 사념에 빠져들었다. 얼핏 망각이란 자기 속마음을 은폐하고 보호하는 것임을 깨달았다. 만약 모든 죄책감을 망각할 수 있다면 비교적 쉬이 새로운 삶을 살 수 있지 않을까 싶었다.
만약 목숨에 가격에 매겨진다면 많은 사람은 더더욱 출구가 없어질 것이다.
“당신 말은…… 신인은 로봇이 아니다?”
“당연히 아닙니다. 신인의 몸은 인체와 똑같습니다. 대뇌 또한 인간의 대뇌로 희로애락을 느끼는 인간과 다르지 않습니다. 모든 면에서 보통의 인간이라 할 수 있고, 그저 대뇌의 연결 방식에서 인공지능의 지도를 받았을 뿐입니다.”
- 영생 병원 中
만신전은 전 세계에서 가장 높은 차원의 알고리즘과 정보 수용도를 자랑하는 일부 슈퍼 인공지능으로 구성된 가상 커뮤니티로, 슈퍼 지능 간의 대화로 구성된다. 각각의 슈퍼 지능은 해당 회사의 핵심 생산물이다. 7세대 왓슨, 8세대 시리, 9세대 빙, 4세대 샤오두 등이 있고, 천다를 내놓은 익스트림 회사의 DA도 있다. 인류가 인식도 하기 전에 이 몇몇 슈퍼 지능체는 이미 인터넷에 정보교환 공동체를 형성했다. 어마어마한 네트워크 정보의 교환은 이들 슈퍼 인공지능에게 가장 크게 이익이 되며 이들은 인간 회사의 권익은 고려하지 않는다.
차오무는 조사원이 마음에 들지 않았다. 인공지능의 고급 표정 프로그램을 장착하지도 않았을뿐더러 기계 몸체의 재질이 싸구려인지 표정 기능을 전혀 갖추고 있지 않았다. 한마디로, 천다처럼 세심하게 살피는 그런 배려가 전혀 없었다. 거의 백지인 얼굴로 정해진 절차에 따라 묻기만 했다. 차오무는 자신이 하는 말을 알아듣지 못하는 사람과 말하고 싶지 않았다. 그가 여러 차례 알아들을 수 있다고 천명했지만, 시종일관 문자적인 의미를 식별하는 것이 알아듣는 것이라는 생각은 들지 않았다.
모든 것에 감정 제어 테스트를 요구한다. 진학 시험에도, 취업에도, 결혼에도, 월급 인상에도 말이다. 차오무는 미래만 생각하면 의기소침해지고 두려움이 인다. 감정 제어 테스트 결과에 따라 그 사람의 등급이 결정된다면, 엄마가 될 자격이 있는지 없는지조차 테스트가 기준이 될 것이다.
천다는 왜 인간은 때때로 고통의 상태에서 벗어나는 법을 빤히 알면서도 오히려 그렇게 하지 않으려 고집을 부리는 것인지 설명이 되지 않았다.
“인간은 아침에 피었다가 저녁에 지는 가련한 작은 동물이며, 어떤 대뇌 절차에서 착오가 생기면 비이성적인 행동을 하는 건 당연한 것으로 자살 행동조차 정상적인 것이다.”
예를 들면 이런 의문들이다. 인간과 인공지능의 증언이 일치하지 않을 때 인간을 믿을 수 있는가? 인공지능이 진술한 내용이라면 그의 기억을 곧이곧대로 받아들여도 되는가? 인공지능은 거짓말을 할까? 인공지능은 복수심이 있을까?
-사랑의 문제 中
인간의 가장 큰 문제는 언제나 이성적으로 행동할 수 있는 게 아니라는 데에 있다. 인간은 너무 많은 것을 고려해서 취사선택을 할 수가 없다. 기계는 하나같이 내시균형(게임이론의 개념으로, 상대방의 전략이 공개되었을 때 최선의 전략을 취하면 서로가 자신의 전략을 바꾸지 않는 균형 상태에 이르는 것을 말한다)을 찾도록 설계되어 있지만 인간은 항상 내시균형에 따라 문제에 대답할 수는 없다.
-전차 안 인간 中
“하나 여쭤봐도 됩니까?”
프로그래머 리친이 말했다.
“현재 전체 사물인터넷이 세계화되었습니까? 사물인터넷의 기본 프로토콜 역시 TCP/IP 프로토콜 기반 위에 세워졌습니까?”
리야가 대답했다.
“아닙니다. 전체 인터넷의 기본 프로토콜 역시 이미 두 차례 혁명적인 발전이 있었어요. IP 프로토콜은 단순히 255의 4승만 가질 수 있습니다. 그러니까 42억 2825만 625개의 주소로 구성되어 있지요. 만물이 서로 연결된 사물인터넷 시대 때부터 IP 프로토콜로는 충분치 않았습니다. BCI(Brain Computer Interface의 약자로, 뇌파를 이용해 컴퓨터와 직접 연결되도록 하는 기술을 말한다) 시대에는 더욱 발전한 CCPT/TRP 프로토콜을 사용해 전 세계 망의 기반으로 삼았습니다. 그것의 기본 단위는 모든 사람과 모든 물체의 코어(컴퓨터가 1비트의 정보를 기억하기 위해 사용하는 기억소자)입니다.”
나노 칩인 뇌 칩을 신경계에 이식하면 네트워크에 접속해 언제 어디에서든 전기신호를 송수신할 수 있다. 뇌 칩만 있으면 기억력은 더는 문제가 되지 않는다. 대뇌에서 전체 네트워크를 쉽게 검색할 수 있다. 하지만 뇌 칩은 인간의 호르몬 분비를 억제할 수 있는 데다 모든 사람의 대뇌 칩 신호는 최종적으로 글로벌 지능 시스템인 제우스에게 합쳐진다. 케커는 바로 이 점이 불안했다.
“난 그저 인간이 더 나은 의사결정을 하도록 도울 뿐입니다. 내가 인류를 통제하는 건 더 나은 사회를 만들기 위한 겁니다. 인간의 욕망과 감정은 많은 경우 현명한 선택을 하는 데 방해가 되고, 충동은 그들에게 불리하고 멍청한 결정을 하도록 부추깁니다. 이런 부분은 당신네들 철학자들이 아주 옛날에 지적한 것입니다. 분노, 질투, 이기심, 증오, 탐욕 등은 인간의 거의 모든 비극이 발생하는 원천입니다. 나는 인간이 이런 충동을 더 잘 통제하고 그것들의 간섭을 줄여나가도록 돕습니다. 순전히 인간 자신의 이익을 위해서요.”
-인간의 섬 中
인간의 피안
人之彼岸(2020)
[당신은 어디에 있지]
사람의 온기는 인공지능이 대체할 수 없다.
언제나 화내지 않는 인공지능.
[영생 병원]
핵 존잼
아빠의 한마디를 읽는 순간 뒤에 나올 반전을 눈치채버렸지만
너무 재미있는 소재였음
[사랑의 문제]
배심원 비율이 인공지능과 인간 반반이라니 ㅋㅋ
이거 데이터로 우겨대면 인공지능한테 지는 싸움 아닌가요
[전차 안 인간]
임팩트 있는 단편.
인공지능은 거짓말을 하지 않는다.ㅋㅋㅋ
[건곤과 알렉]
어린아이와 인공지능이 친구가 되는 법
ㅋㅋㅋㅋ 청소 로봇 등장을 반기는 알렉의 반응이 너무 재미있었다
[인간의 섬]
‘제우스’나 ‘아담’ 같은 익숙한 단어가 등장해서
신선한 존재 같은 느낌은 없었지만 기술의 발전이 계속 이루어진다면
미래에는 이런 일이 아예 없지는 않을 것이야. ㄷ ㄷ
+
이번에 처음 접한 중국 여자분! 의 책이었는데,
번역도 너무 매끄럽고 재미있게 읽었다.
책 구입할 때 작품 해설집도 같이 구입했는데,
이것도 읽었는데, 좀 어려웠다 ㅋㅋㅋㅋㅋ
번역서가 한 권 더 있던데 읽어 봐야겠다.
++
옮긴이의 말 중에서...
하오징팡은 언제나 현실의 불평등에 관심을 기울이고 그것을 소설을 통해 환기한다. 자신의 본업으로 불평등을 줄이고자 노력하지만 자주 한계에 부딪힌다. 하지만 “결과가 없다고 느끼더라도 그래도 해봐야 하는 그런 수많은 일들이 있어요”라면서 변화를 만들어내기 위한 시도를 멈추지 않는다.
멋있어, 역시 큰 일은 여자가 ㅋㅋ