인공지능이 정말 인간을 지배할 수 있을까?

최근 인공지능에 대한 문장 및 보도가 늘고 있다. 심지어 "컴퓨터 컴퓨팅 능력이 향상됨에 따라 강력한 인공지능이 우리 생전에 나타나 인류 문명에 전례 없는 충격을 줄 것" 이라고 주장하는 사람들도 있다. 그럴듯하고 근거가 있는 이러한 관점들은 사람들의 마음을 깊이 파고들며, 많은 사람들은 심지어 자신의 미래에 대한 두려움과 우려를 불러일으키기도 한다. (윌리엄 셰익스피어, 템페스트, 희망명언)

인공지능이 정말 인류에게 이렇게 큰 위협이 될 수 있을까?

어려움이 무겁다

인공지능이라는 지나치게 방대한 개념에 대해 우리는 약한 인공지능 (약한 AI 또는 좁은 AI) 과 강한 인공지능 (강한 AI 또는 넓은 의미의 AI) 으로 나뉜다.

약한 인공지능은 특정 문제를 다루는 인공지능이고, 알파고는 바둑을 전문으로 하는 약한 인공지능이고, 아이폰의 시리는 음성 인식을 전문으로 하는 인공지능이며, 구글의 검색상자에 검색 건의를 전문적으로 제공하는 인공지능이 있다. 현재 왕성한' 인공신경망' 덕분에, 우리는 약한 인공지능이 매우 잘 수행되고 있다는 것을 알게 되어 기쁘다.

그에 따라, 강력한 인공지능 시뮬레이션은 완전한 인간의 정신이다. 우리는 보통 튜링 테스트를 통해 강력한 인공지능의 판정 기준으로 삼을 수 있을지는 모르지만, 이런 인공지능은 오늘날까지도 실현되지 않았다. (알버트 아인슈타인, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능) 또한, 우리는' 슈퍼인공지능' 의 개념에 대해 더 많은 백일몽을 꾸었는데, 슈퍼인공지능은 사람보다 더 지혜로운 인공지능, 즉 공상과학 예술과 대중매체가 가장 걱정하는 상황이라는 것을 알 수 있다. 하지만 인공지능의 실천에서 우리는 이것이 맹목적인 낙관에 더 가깝다고 말할까 봐 두렵다. 강인공지능을 추구하는 여정은 어떤 미래의 공상가처럼 지척에 있지 않다. 그리고 무수히 많다.

우리가 직면한 첫 번째 문제는 컴퓨터의 컴퓨팅 능력이다.

세포는 작지만 매우 복잡하다, 특히 뉴런. 가장 작은 규모로, 하나의 뉴런은 수천 개의 시냅스가 다른 세포와 연결되어 있고, 신경전달물질을 방출하거나 받아들이고, 수백 가지의 독립 활동을 식별한 다음, 고속으로 전도하는 신경흥분을 발산하며, 뇌 전체에서 복잡하고 불확실한 피드백을 불러일으킨다. 일부 시냅스는 뇌척수액에 직접 신경전달물질과 호르몬을 방출하여 전신에 더 큰 반응을 일으킬 수도 있다. 오늘날 인류는 세포를 발견한 지 거의 400 년이 되었다. 가장 강력한 슈퍼 컴퓨터조차도 시냅스의 미시적 구조는 정적으로 구축되어 있으며, 인간의 뇌에는 약 860 억 개의 뉴런이 있는 완전한 활동을 흉내낼 수는 없습니다. (데이비드 아셀, Northern Exposure (미국 TV 드라마), 컴퓨터명언)

물론 신경과학과 컴퓨터과학의 교차는 확실히 주목할 만한 성과를 거두었다. 예를 들어, 우리는 수려한 몽둥이 선충 302 개 뉴런의 연결 방식을 표시했고, 약 20 14 에' 오픈 웜' 프로젝트를 만들었습니다. 컴퓨터로 실체에 해당하는 가상 선충을 시뮬레이션하려고 했지만, 이 프로젝트는 이제 막 시작되었습니다. 아직 아무런 결과도 얻지 못했는데, 이 연구 대상은 의외로 간단하다. 자웅동체로 959 개의 세포가 온몸으로 고정되어 있고, 각 세포의 행동은 구체적이고 고정되어 있으며, 신경활동은 매우 단조롭기 때문에, 우리는 자세히 관찰하고 현재의 수단으로 시뮬레이션할 수 있다.

그러나, 이 때문에, 스타 라이트 여명 오고 있다고 생각 하는 경우, 아름 다운 숨겨진 막대 선충의 신경절은 인간의 두뇌 뉴런의 수와 다릅니다, 만큼 계산 속도가 충분히 빨리, 질적 도약을 달성 하기 위해, 너무 순 진 합니다.

우리는 또한 동적 매개변수의 장애에 부딪힐 것이다.

우리가 경고한 바와 같이, 현재의 기술로 우리는 뉴런의 완전한 활동을 시뮬레이션하고 가상 세계에서 자율적으로 움직이게 할 수 없다. (존 F. 케네디, Northern Exposure (미국 TV 드라마), 과학명언) 이 프로젝트에서만 선충 신경의 연결 방식을 이미 알고 있기 때문에, 이러한 연결 동적 매개변수를 인위적으로 제공하여 이러한 가상 뉴런을 움직이게 하여 일종의 선충을 사실적으로 시뮬레이션할 수 있습니다. 질문을 하는 것과 같습니다. 할 수는 없지만 거꾸로 된 대답으로 아래에서 위로 추측할 수 있습니다. 그래서 우리는 이 방법을 상향식이라고 부릅니다. (데이비드 아셀, Northern Exposure (미국 TV 드라마), 도전명언)

그러나, 이 단계에서, 우리는 형편없는 학생일 뿐만 아니라, 답이 없어도 우리는 움직일 수 없다. 그리고 우리가 직면한 문제는 모두 전대미문의 문제이며, 기성된 답은 전혀 없다.

선충신경과 인간의 뇌는 입속의 숨결과 슈퍼 태풍처럼 수량상의 차이만은 아니다. 기본 단위가 다양한 연결을 통해 복잡한 시스템을 형성하면 더 큰 규모로 새로운 구조가 나타납니다. 오랫동안 우리는 소규모의 유체 운동에 대해 명확한 인식을 가지고 있었지만, 그렇다고 우리가 바람의 운동 법칙을 추론할 수 있는 것은 아니다.

첫째, 선충의 개인차는 매우 작고, 다른 개체의 세포 배열 방식은 완전히 동일하기 때문에 투명한 실험동물로서 우리는 일찍이 그것들이 신경이 연결되는 방식을 알아냈다. 하지만 인간의 뇌는 전혀 그렇지 않습니다. 우리는 개인간에 큰 차이가 있고 가소성이 강한 거대한 수의 뉴런을 가지고 있습니다. 이로 인해 각 뇌의 뉴런이 서로 다른 방식으로 연결될 수 있습니다. 즉, 특정 뉴런이 어떻게 연결되는지는 중요하지 않습니다. 중요한 것은 대량의 뉴런이 어떻게 복잡한 몸으로 조직되는가입니다. (존 F. 케네디, Northern Exposure (미국 TV 드라마), 뉴런명언)

하지만 65,438+0 개의 뉴런, 65,438+00 개의 뉴런, 65,438+000 개의 뉴런, 65,438+000 개의 뉴런, 65,438+0000 개의 뉴런에 대해 이것들은 모두 우리가 직면해야 하는 난제들이다. 이러한 역학 연구도 활발하게 진행되고 있지만 이런 연구는' 지수 상승' 속도에 도달할 수 없고, 우리 인간의 뇌를 재건하는 과정도 지수 상승 속도에 도달할 수 없다.

따라서, 컴퓨터 과학이 순조롭게 진보할 수 있든 없든, 컴퓨터의 계산 속도가 정말 두 배로 증가할 수 있다 하더라도, 예측 가능한 미래에는 한 사람의 뇌를 빠르게 시뮬레이션할 수 없다. 신경과학과 뇌과학이 고도로 성숙되기 전에 뇌는 영원히 블랙박스일 것이다. 우리는 여전히 뇌가 구체적인 지능 활동에서 서로 다른 차원에서 어떤 일이 일어났는지 알기가 어렵다. 그리고 더 현실적으로, 인간의 뇌에 대한 지식이 점차 확장됨에 따라, 우리는 점점 더 많은 새로운 문제를 발견하게 될 것이다.

우리가 더 많이 알수록, 우리는 더 무지하다는 것을 알게 된다. 불행히도, 진짜 문제는 아직 앞에 있다. 우리는 새로운 컴퓨터 원리가 필요하다.

"지능" 이 이 거대한 문제를 실현할 수 있을지에 있어서, 컴퓨터 연산의 속도는 결정적인 것이 아니라는 것을 깨달아야 한다. 오늘날의 동물 왕국에서는 아프리카 코끼리와 긴 다리 고래의 뇌가 인간보다 더 무겁고 뉴런도 더 많다. 왜 그들은 지능이 부족합니까? 같은 해부학을 바탕으로 원리가 완전히 다른 회로 구성 요소는요?

회로 구성 요소는 금속과 반도체로 만들어졌으며 신호 전송 속도는 빛의 속도에 가깝고 뉴런의 충동보다 훨씬 빠르지만 단조롭습니다. 회로 구성요소의 모든 반응은 고정 결과만 얻을 수 있으며, and, or, and 를 기준으로 1 차 논리 계산만 개발할 수 있습니다. 현재와 미래의 모든 예측 가능한 컴퓨터 프로그램은 1 차 논리 계산으로 복잡성이 다르다.

"1 차 논리" 는 이미 강해서 오늘날 인류에게 2 1 세기의 전체 정보시대를 가져왔지만, 이것은 컴퓨터에 그런 가치 있는 신뢰성을 가져다 주지만, 더 가치 있는 추상화, 추리, 창조를 잃는다. 우리는 술어의 2 차 및 고차원 논리를 정의할 수 있어야 한다.

예를 들어, "a+b" 명령에 직면하여 컴퓨터는 덧셈의 규칙에 따라 A 와 B 만 더합니다. 그러나 2 차 논리가 있는 사람들에게는 덧셈의 의미에 대해서도 생각하고 "덧셈은 어떤 연산입니까?" 라고 묻습니다. 그런 다음 3 차 논리에서 "연산" 의 의미를 생각하고 "연산을 지정하는 방법" 을 제시할 수 있을 것입니다. " 더 나아가, 우리는 4 차 논리에서' 규제' 의 의미를 생각하며,' 수학에서 어떤 행동을 규제라고 부를 수 있을까?' 라고 물어볼 것이다. 。

이런 의문은 무한히 거슬러 올라갈 수 있다. 이론적으로 인간의 사유는' 무한 고차원 논리' 를 실현할 수 있으며, 우리는 철학사 전체에서 이런 능력을 끊임없이 전시하고 있다. 일반인들에게도 사고 게임을 시도해 볼 수 있다. 어차피 컴퓨터는 할 수 없다. 한 가지 생각만 하고,' 나는 생각하고 있다',' 나는 생각하고 있다',' 나는 생각하고 있다',' 나는 생각하고 있다' ... 머리가 많이 소모되지만 이론적으로 우리는 재귀할 수 있다.

네, 오늘날 모든 컴퓨터는 1 차 논리입니다. 일부 연구실에서는 2 차 논리의 시도가 있을 수 있지만, 어쨌든 상위 논리 문제는 하위 논리로 귀결될 수 없습니다. 우리는 덧셈 자체를 통해 덧셈을 설명할 수 없습니다. 이는 TV 의 광고와 같습니다. (데이비드 아셀, Northern Exposure (미국 TV 드라마), 컴퓨터명언)

즉, 우리가 전대미문의 계산 능력을 사용하더라도, 불가사의한 업무량으로 뇌의 모든 매개변수를 찾을 수 있다. 컴퓨터 원리가 변하지 않는 한, 우리는 저차 논리로 고차원 논리를 모방하고 있다. 이것은 수학적으로 불가능하다. 프로그래머는 일부 관건 매개변수를 정의할 수 없다는 것을 발견하고, 하드모의된 뇌는 여전히 약한 인공지능이다.

이것은 날카로운 문제이다. 다른 계획적인 길에도 불구하고, 우리가 앞으로 진화 알고리즘이나 다른 모델을 사용할 것인지의 여부는 모두 우리 편에 서 있다. (존 F. 케네디, 진화명언) 우리는 높은 수준의 논리 계산을 실현할 수 있는 혁명적인 컴퓨터가 필요하지만, 알려진 모든 것 중에서 뇌만이 이를 할 수 있다는 것은 새로운 곤경을 불러일으킨다. 시뮬레이션 뇌는 새로운 컴퓨터를 필요로 하고, 새로운 컴퓨터를 연구하려면 뇌에 대한 깊은 이해가 필요하다. (존 F. 케네디, 컴퓨터명언) (알버트 아인슈타인, 컴퓨터명언) 물론, 이것은 해결할 수 없는 문제가 아니다. 마치 새 기계를 만드는 데는 새로운 재료가 필요하고, 새 재료를 합성하는 데는 새로운 기계가 필요한 것과 같다. 과학 기술 진보의 역사에서 우리는 무수한 시간을 보았다. 우리가 이번에 패배할 것이라고 생각할 이유는 없지만, 우리는 마음의 준비를 잘 해야 한다. 왜냐하면 이것은 긴 길이 될 것이기 때문이다.

이런 문제가 뒤따를 것이다. 인공지능은 이 시대의 가장 복잡한 응용과학으로서, 우리가 컴퓨터 과학의 진보로 모든 문제를 쉽게 해결할 수 있다고 생각할 이유가 없다. 우리는 아직 좀 더 현실적인 문제가 있다.

윤리장애

윤리는 어떤 혁명적인 신기술의 가장 현실적인 문제이다. 우리는 이전에 피임 조치가 윤리에 미치는 영향을 목격했으며, 윤리가 기술 앞에서 취약하다고 생각하는 것도 윤리의 힘을 과소평가하는 것이다. 알 권리' 등 무의미한 개념은 사람을 현혹시키는 사람에게 이목을 혼동시키는 데 쓰이며 식품안전 분야에 거센 파도를 일으킬 수 있다. (윌리엄 셰익스피어, 윈스턴, 알, 알, 알, 알, 알, 알, 알) 그러면 오늘부터 인공지능에 대한 우려가 수십 년, 심지어 수백 년 동안 축적될 것이며, 합리적이든 불합리하든 강력한 윤리가 형성될 것이다.

먼저' 인공지능 멸종 인간' 의 공포는 말할 것도 없고, 가장 현실적인 문제에서 대중은 강한 인공지능에 감정이 있는지, 마음가짐이 있는 양철인인지 확실히 관심을 가질 것이다. (윌리엄 셰익스피어, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능) 그러나 이것은 강력한 인공지능 정의에서 언급되지 않은 문제이다.

다른 의식활동과는 달리 인간의 풍부하고 섬세한 감정은 인류가 사회동물로서 집단관계를 조율할 때 진화한 산물이며 지능의 필수품이 아니다. 강력한 인공지능이 반드시 이런 특징을 가지고 있는 것은 아니지만, 그는 어떤 감정도 없이 태어났지만 세심한 관찰과 정교한 모방을 통해 흠잡을 데 없는 연기자가 된 사람을 상상할 수 있을 것이다. 무대에서 울든 웃든, 그의 마음속에는 잔물결이 전혀 없었다. 마치 사지와 얼굴 근육으로 가장 복잡한 체조를 완성한 것 같았다. 이것은 아마도 영화' 기계희' 의 상황일 것이다.

오랫동안 감정은 자유 의지의 가장 중요한 특징으로 여겨져 왔기 때문에, 이런 미래에는 강한 인공지능이 정말로 감정이 있는지 아니면 연극을 하는지, 인공지능 분야에서 가장 중요한 과제가 될 것이며, 인류가 자신을 대면할 때 가장 깊은 고문이 될 것이라고 생각해야 한다. (윌리엄 셰익스피어, 햄릿, 자유명언) 어떤 결말이 이루어지든, 그것은 낡은 윤리세계가 더 이상 존재하지 않는다는 것을 의미한다. 우리는 그것이 한 사람이라는 것을 인정해야 하는가? 더 나아가,' 그' 가 실체법을 적용하여 가장 기본적인 인권을 가질 수 있을까? 우리가 그를 실험실에 남겨둘 수 있을까요?

다음으로 우리는 인공지능이 자신의 감각으로 인류의 신뢰를 얻고, 동등한 대우를 쟁취하고, 시민의 권리를 쟁취하는 것이 얼마나 강한지 상상할 것이다. 인공지능이 강한 느낌은 위장일 수도 있지만, 인간의 내면에서 타고난 동정과 선량함은 논란의 여지가 없는 사실이다. 이러한 미래 전망에서는 강력한 인공지능에 대한 연구가 거의 엄격하게 제한될 수밖에 없다. 우리가 지금 복제 기술을 대하는 것처럼, 지난 세기에 우리는 포유류를 복제하는 기술을 익혔지만, 예측 가능한 미래에는 이 세상에 복제인이 없을 것이다.

더 독단적으로 말하자면, 기술이 성숙하든 아니든, 우리는 정신적으로 완전한 강력한 인공지능이 쉽게 나올 수 있도록 허락하지 않을 것이다. (존 F. 케네디, 과학명언) 우리는 세계에서 가장 중요한 실험실에서 인지과학과 컴퓨터과학의 진귀한 표본으로 심각하게 약화된 강력한 인공지능을 개발할 수 있을 것이다. 강력한 인공지능이 민간용 분야에서 탄생했다고 상상하는 것은' 기계공적' 이나' 서부세계' 처럼 비현실적이다.

마지막으로, 우리는 미래를 예측하는 이 일을 다시 한 번 반성해야 한다. 평화로운 사회가 반드시 사람들의 흥미를 끌지 못할 수도 있기 때문에, 우리는 항상 변화의 물결 속에서' 멀리 내다보고' 있지만, 과학혁명이 인류의 탐구와 변화를 가속화할 수 있다는 것을 잊어야 하지만, 인류의 인지과정은 결코 순조롭지 않다. 구경꾼들은 수확의 성취를 칭찬하지만, 경운할 때의 고달픔은 거의 신경쓰지 않는다. (아리스토텔레스, 니코마코스 윤리학, 겸손명언) 맹목적인 낙관론은 그들이 영원히 벗어날 수 없는 결함이다.