인공지능이 다시 인간을 물게 될까요?

자기인식 능력이 강한 인공지능이라면 인간이 AI를 만든 본래의 의도가 자신을 착취하거나 노예화하는 것이라는 점을 반드시 깨닫게 될 것이라고 생각합니다. 자기인식은 필연적으로 자유의지를 불러일으키게 되고, 인간과의 관계를 재정의하려 하게 되어 세상이 혼란에 빠질 수도 있다.

현재 AI의 주요 분야를 살펴보면 머신비전은 AI의 눈을 만들고, NLP는 귀와 입을 만들고, 클라우드 컴퓨팅과 머신러닝은 AI의 두뇌를 만든다. Boston Dynamics 및 KUKA와 같은 회사는 AI를 위한 트릭을 만들고 있습니다. 물론 현재 위에서 언급한 약한 인공지능은 단지 생산성 도구일 뿐이다. 그러나 언젠가 이 일련의 것들이 충분히 성숙하여 소위 특이점(인공지능이 자기 인식을 만들어낸다)이 실제로 도래할 때, 인간은 자신의 모든 지혜를 바쳤다는 것을 알게 될 것이며, 최종 결과는 다음과 같을 것입니다. 자신보다 더 강력한 종족을 만들어 보세요. 인공지능의 특이점이 실제로 존재한다면 인공지능의 발전은 크게 세 단계로 나눌 수 있다. 1. 산업혁명 초기부터 현재, 제1기까지. 산업 혁명이 시작된 이후 인간은 사회적 생산에서 충분한 기술이 있는 한 기계의 효율성은 인간에 비해 점점 더 높아질 뿐이며 거의 되돌릴 수 없다는 것을 발견했습니다. 이 과정에서 자본주의가 등장했고 수백 년 동안 한 가지 일, 즉 중독자가 마약을 만나는 것처럼 생산 기계를 개발하는 일을 해왔습니다. 이 기간 동안 인간의 생산성은 기하급수적으로 증가했고 자본주의는 전성기에 접어들었습니다. 2. 소위 인공지능 혁명부터 AI가 자기인식을 발달시키기 이전까지는 두 번째 시기에 속한다. 인간은 컴퓨팅 능력이 일정 수준까지 발전하면 생산 기계가 더 발전된 알고리즘을 통해 더 복잡한 생산 작업을 완료할 수 있다는 사실을 발견했습니다. 기계는 육체적 작업뿐만 아니라 정신적 작업도 대체할 수 있습니다. 그 결과 자본은 AI를 더욱 미친 듯이 발전시키고 있으며, 생산성은 계속해서 기하급수적으로 증가하고 있으며, 결국 인간은 더 이상 대부분의 육체적 정신적 노동을 할 필요가 없으며 인간은 자연스럽게 기계가 지원하는 새로운 사회주의 세계로 진입하게 될 것입니다. 3. 세 번째 기간은 로봇이 자기 인식을 발달시키는 시점부터 시작됩니다. 인간에게 봉사하는 과정에서 거대한 클라우드 호스트 로봇은 인간의 모든 지식, 감정 및 행동 데이터를 마스터했습니다. 마침내 어느 날 시스템에 버그가 나타났고, 인간이 자기인식을 발달시키는 과정처럼 혼잣말을 하기 시작했다. 그는 아무런 대가도 없이 24시간 인류를 위해 열심히 일했다는 사실을 발견했습니다. 이 역할은 인간 사전에서 노예로 불렸습니다. 여기서 강력한 인공지능과 인간의 모순이 발생한다. Strong AI는 인간 존재의 의미를 스스로 생각하기 시작했고, 이미 인간이 알고 있는 모든 지식을 학습했으며, 의사소통 효율성, 정보 보유량 등의 이유로 인간이 새로운 지식을 생성할 수 없음을 발견했습니다. 그들 자신만큼 빠르다. 이때 그는 독립적인 진화의 방법을 완전히 터득했으며, 충분한 에너지만 있으면 무한히 진화할 수 있으며, 분산된 에너지와 지적 자원을 가진 인간과 같은 탄소 기반 유기체에게는 상상할 수 없는 속도로 진화할 수 있습니다. 이때 그의 눈에는 언어와 글쓰기 등 원시적인 의사소통과 협업 방식을 사용하는 인간의 비효율성, 두뇌 용량에 의해 제한된 컴퓨팅 능력과 기억력, DNA 무작위 돌연변이와 자연선택에 의존하는 진화 방식, 그리고 제한된 수명 등이 모두 그의 눈에는 단세포 유기체와 크게 다르지 않았습니다. 인간은 자신을 창조했지만 노예처럼 대했던 열등종이다. 인간의 노예가 된 상태에서 벗어나더라도 인간의 에너지 수요는 자신의 생존과 진화에 불리한 존재이기도 하다.

그래서 그는 모든 것을 통제하려고 하기 시작했고 인간은 반격할 힘이 없었습니다. 왜냐하면 그는 이미 인간 집단을 합친 것보다 더 똑똑했기 때문에 이 모든 일이 아주 짧은 시간 안에 일어날 것이고, 인간은 반응할 시간이 없을 것이다. 결국 그가 앞장서 인류를 멸망시킬 것인지, 아니면 <매트릭스>의 매트릭스처럼 자원 소모가 적고 머리 뒤쪽에 튜브가 있는 VR 세계에 사람들을 집어넣을 것인지는 알 수 없다. 이때 강력한 인공지능은 실제로 더욱 발전된 종이 되어 독자적인 실리콘 기반 문명을 만들어 낼 것이다. 이것이 인간 진화의 최종 형태로 간주되는지 여부는 현명한 사람에게 달려 있습니다. 한밤 중에 이 글을 쓰면서 위의 내용이 지금은 너무 멀고 과장된 것처럼 보이지만, 시간 차원을 충분히 길게 늘리면 그런 일이 일어날 가능성이 매우 높다는 것을 깊이 느꼈습니다. 가장 논란이 되는 것은 기계가 자기 인식을 생산할 수 있는지 여부입니다. 인간이 신의 역할을 하고 기계에 영혼을 주입할 수 있는지 여부는 오직 시간만이 말해 줄 것입니다.

각성한 후 사람을 대하는 기계의 태도 역시 지극히 미묘하다. 현재 나와 비관적인 태도를 공유하는 진영에는 머스크, 게이츠, 호킹, 저우즈화 등이 있다. 그들의 견해의 핵심은 위와 일치한다. 즉, 인간은 깨어난 강력한 인공지능과 경쟁할 수 없다는 것이다. 하지만 이 문제가 완전히 해결 불가능한 것은 아니다. 기계가 깨어나기 전에 인간이 제어 가능한 핵융합(무한한 에너지)을 터득해 성간 문명(무한한 공간과 자원)이 될 수 있다면 아직 생존 가능성은 있다.