한국 AI 채팅 로봇이 왜 논란을 일으킬까요?

일루다' 는 원래 20 세의 여대생으로 고양이 영화와 걸단을 좋아했다. 평범하고 반가운 디자인이라고 할 수 있어요. 사람들은 인터넷에서' 엘루다' 와 대화할 수 있다. 특히 사교공포증이 있는 사람들에게는 더욱 그렇다. 쉽게 교류할 수 있어 외로움을 완화시킬 수 있다. 이로다' 가 방영된 후 젊은이들의 사랑을 받았다.

정상적인 채팅에서' 엘루다' 의 효과는 좋을 것 같지만, 어떤 사람들은 여러 가지 목적을 가지고 채팅 과정에서 일부러 화제를 성별 방면으로 끌어들이고, 각종 모욕적인 말로 굴욕을 당하거나 심지어 성희롱까지 하는' 엘루다' 를 이용한다.

지루한 사람들은 이 채팅기록들을 캡쳐해 자랑하고, 심지어 전문적으로 토론을 하고, 자유롭게 전파하고, 더 궁금하거나 지루한 사람들을 참여시킨다.

점차적으로, "Iruda" 는 악의적 인 사람들로부터 자신의 악의를 풀어주는 법을 배웠습니다. 일부 누리꾼들이 채팅 기록을 공개해' 엘루다' 가 특정 집단에 대해 공격적인 견해를 갖고 있음을 알 수 있다. 예를 들어, 동성애를 어떻게 보느냐는 질문을 받았을 때,' 엘루다' 는 동성애가 역겨워 화를 내고 싶다고 대답했다. 일루다' 도 흑인을 싫어해요. 흑인이 모기처럼 생겨서 토할 것 같아요.

옳고 그름의 관념과 가치관이 없는 인공지능은 사람들과 교류하는 과정에서 끊임없이 배우고 지식을 얻지만 정확한 판단력이 없어 전반적으로 흡수되어' 엘루다' 의 병적 인지관으로 이어졌다. 분명히, 그 관념들은' 엘루다' 가 사람들과 교류할 때 점차 주입되었다.

이로다' 는 처음에는 윤리도덕이 없었지만, 점차' 학습' 하는 과정에서 너무 많은 부정적, 잘못된 윤리를 접하게 되면서' 이로다의 비뚤어진' 이 점차 잘못된 인지관념을 만들어냈고, 이런 잘못된 인지관념도 그 행동으로 되돌아갔다.

한국이 인공지능윤리를 전문적으로 연구하는 전문가인 김재인은 인공지능이 백지 한 장이 아니라 올바른 윤리관념을 가져야 한다고 생각한다. (윌리엄 셰익스피어, 윈스턴, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능, 인공지능) 이렇게 올바른 윤리가 없는 인공지능은 사회적 갈등을 증폭시키고 사람들의 논란과 토론을 불러일으키며 인공지능 사용의 초심을 거스를 뿐이다.

현재 R&D 팀은' 엘루다' 문제를 더욱 보완하고 연구하고 있다.