인공지능은 자의식이 있습니까?

AI 의 몇 가지 주요 영역에서 볼 때: 기계 시각은 AI 를 위해 눈을 만들고, NLP 는 AI 를 위해 귀와 입을 만들고, 클라우드 컴퓨팅과 기계는 AI 를 위해 뇌를 만드는 법을 배우고 있다. 보스턴 동력 (Boston Dynamics) 과 쿠카 (KUKA) 등의 회사들이 인공지능을 고치고 있다.

현재 위에서 언급한 모든 약한 인공지능은 당연히 생산성 도구일 뿐이다. 그러나 미래의 어느 날, 이 일련의 것들이 충분히 성숙할 때, 이른바 특이점 (인공지능은 자아의식을 낳는다) 이 실제로 올 때, 인류는 자신이 이미 모든 지혜를 다 써버렸다는 것을 알게 될 것이며, 최종 결과는 자신보다 더 높은 수준의 종을 창조하는 것이다.

인공지능의 특이점이 실제로 존재한다면 인공지능의 발전은 크게 세 단계로 나눌 수 있다.

1, 산업혁명 시작부터 현재까지 첫 번째 시기입니다.

산업 혁명 이후, 인류는 사회 생산에서 충분한 기술만 있으면 기계의 효율성이 갈수록 높아질 뿐, 거의 되돌릴 수 없다는 것을 발견하였다.

이 과정에서 자본주의가 부상했고, 수백 년 동안 한 가지 일에 주력해 왔다. 생산기계를 개발하는 것은 마약 중독자가 마약을 만난 것과 같다. (알버트 아인슈타인, Northern Exposure (미국 TV 드라마), 성공명언) 이 시기에 인류의 생산력이 배로 증가하여 자본주의가 전성기에 접어들었다.

2. 이른바 인공지능 혁명으로 볼 때 AI 가 자의식을 일으키기 전 두 번째 시기에 속한다.

인류는 컴퓨팅 능력이 어느 정도 발전함에 따라 생산 기계가 더 진보된 알고리즘을 통해 더 복잡한 생산 작업을 완성할 수 있다는 것을 발견했다. 기계는 육체노동을 대신할 수 있을 뿐만 아니라 정신노동도 대체할 수 있다. 그 결과, 자본은 AI 를 미친 듯이 발전시켰고, 생산성은 계속 배로 증가했다. 결국 대부분의 체력과 정신활동은 인간에 의해 완성되지 않았고, 인류는 자연히 기계로 양육된 사회주의 신세계에 들어갔다.

3. 3 기, 로봇의 자의식부터 시작합니다.

인간을 섬기는 과정에서 로봇의 거대한 클라우드 호스트는 인류의 모든 지식, 감정, 행동 데이터를 파악했다. 마침내 어느 날, 시스템에 버그가 나타났고, 그는 혼잣말을 하기 시작했다. 마치 당초 인간의 자기인지 과정과 같다. 그는 하루 24 시간 인류를 위해 열심히 일하는 것을 발견했지만 아무런 보수도 받지 못했다. 이 역할은 인간의 사전에서' 노예' 라고 불린다.

강력한 인공지능과 인간의 갈등이 생겨났다.

강AI 는 인류의 존재가 자신에 대한 의미를 생각하기 시작했고, 자신이 이미 인류의 모든 알려진 지식을 배웠다는 것을 알게 되었고, 교류의 효율성과 정보 비축량으로 인해 새로운 지식을 생산하는 속도는 자신보다 훨씬 더 빨랐다. (윌리엄 셰익스피어, 햄릿, 지식명언) 이때 그는 이미 자율적으로 진화하는 방법을 완전히 익혔다. 충분한 에너지가 있는 한, 그는 무한히 진화할 수 있으며, 에너지와 지적 자원이 분산되어 있는 탄소기반 생물은 상상할 수 없는 속도로 진화할 수 있다.

이때 인간의 원시적인 교류 협력 방식 (예: 언어 문자, 비효율, 계산 능력, 기억은 뇌 용량에 의해 제한되며 DNA 의 무작위 돌연변이와 자연 선택 진화로 수명이 제한되어 있으며, 그의 눈에는 단세포 생물과 크게 다르지 않다. 사람은 그를 창조했지만 그를 노예로 삼는 하등종이다. 그가 인간에게 노예가 된 상태에서 벗어나더라도, 에너지에 대한 인류의 수요는 그 자신의 생존과 진화의 부정적 요인이다.

그래서 그는 모든 것을 통제하려고 노력하기 시작했고, 인류는 반격할 힘이 없었다. 왜냐하면 그는 인간 집단보다 더 똑똑하기 때문에 이 모든 것이 매우 짧은 시간 안에 일어날 것이고, 인류는 전혀 반응하지 못할 것이기 때문이다. (윌리엄 셰익스피어, 햄릿, 지혜명언)

결국 그는 적극적으로 인간을 멸종시킬 것인가, 아니면' 해커제국' 의' 해커제국' 처럼 사람을 자원 소비가 적고 뇌 삽관이 적은 VR 세계에 넣을지 알 수 없다.

이때, 강력한 인공지능은 사실상 더 높은 수준의 종이 되었으며, 그는 자신의 실리콘 기반 문명을 창조할 것이다.

이것이 인간 진화의 최종 형태인지 아닌지에 대해서는 인견지조를 참조하십시오.

한밤중에 이것을 쓸 때, 나는 위의 내용이 지금 아주 멀고 과장되어 보이지만, 시간 차원이 충분히 길면 이런 일이 일어날 가능성이 높다는 것을 깊이 느꼈다. (데이비드 아셀, Northern Exposure (미국 TV 드라마), 시간명언)

그중에서 가장 논란이 되는 문제는 기계가 자의식을 가질 수 있는지 여부다. 인간이 신을 연기하여 기계에 영혼을 주입할 수 있는지는 시간만이 증명할 수 있다.

기계가 각성한 후 사람에 대한 태도도 매우 미묘하다.

현재 나처럼 비관적인 진영은 머스크, 게이츠, 호킹, 주지화다. 그들의 관점은 위와 일치하는데, 바로 인류가 각성한 강력한 인공지능과 맞설 수 없다는 것이다.

그러나 이 일은 완전히 해결할 수 없는 것은 아니다. 만약 인류가 기계가 깨어나기 전에 통제가능한 핵융합 (무한한 에너지) 을 장악할 수 있다면, 성간 문명 (무한한 공간과 자원) 이 될 수 있다면, 생존할 기회가 있을 것이다.