목차 :
1. 딥러닝이나 생물이나 발전과정은 동일하다.
2. 인간은 언제나 문제 상황에 따라 유동적으로 대처함
3. 스스로 생각하는 인공지능은 불가능함
++ 총정리 3줄 요약
1. 딥러닝이나 생물이나 발전과정은 동일하다
사람들은 딥러닝으로 만들어진 최근의 인공지능이 해내는
놀라운 일들을 보고 감탄을 표하기도 하지만,
그와 동시에 인공지능의 발전을 멈춰야 한다고 이야기하는 사람도 많다.
그러한 사람들이 인공지능의 발전을 멈춰하는 이유에 대해서 말하기를,
인공지능의 발전과정은 이해할 수 없으며,
그들의 판단이 왜 그런지 알 수 없기에, 이건 잠재적 위험을 가지기 때문이라고 한다.
그러한 사람들은 인권을 무시하는 경찰 인공지능, 판사 인공지능이나
돈을 목표로 사람의 생명을 무시하는 경영 인공지능 등을 예시로 든다.
-----> 현재의 딥러닝은 손실 함수를 최소화하여 성능을 향상한다. 즉, 결과만 좋으면 장땡이다.
그런데... 우리라고 해서 다를까?.. 인간의 진화 과정은 이해할 수 있는 과정 속에서 진화했을까?
정답은 "아니요"다.
수억 년 동안 DNA가 수없이 발전하여 지금의 인간에 이르기까지,
진화는 오로지 결과론적인 과정으로 이루어졌다.
옳고 그름이 존재하는 과정이 아니라, 단지 살아남는 놈이 승자이고 그것이 "진화"였다.
다시 말해서,
인간이 지금의 키, 몸무게, 인종, 얼굴, 성격 등등을 가지게 된 과정에서
합당한 이유와 스스로의 의지를 통해서 진화한 것 이 아니라,
어쩌다 보니 살아남은 게 우리인 것이고, 살아남게 해준 변화를 단지 "진화"라고 부른 것뿐이 아니다.
----> 생물의 진화 과정 또한, 오로지 "생존"에 의거한 결과론적인 과정인 것이다.
이 말은, 결과과만을 생각하여 성능을 발전시키는 딥러닝이나 우리나 같다는 이야기이다.
인간도 결과론적으로 진화하여 지금에 이르렀고,
어느 순간에 이르러로서는 결과만을 고려하는 발전의 한계는 느끼고 과정을 보기 시작했다.
---> 현대사회의 인간은 인권, 지구온난화, 환경오염 등등 결과가 아닌 과정을 보기 시작함.
왜냐하면,
힘들고 느리지만, 과정을 중요시하며 발전하는 것이
장기적으로 볼 땐 더 큰 결과를 내기 때문이라는 걸 깨달아서이다
필자가 볼 땐 딥러닝의 발전도 그와 마찬가지 일 것이다.
지금이야 결과만을 중요시하며 발전하지만,
그러한 발전에는 반드시 명확한 한계점이 존재할 것이다.
--> 지금도 딥러닝은 데이터 의존성 문제, 범용성 문제, 기억 손실 문제 등이 존재한다.
한계점에 봉착하여 더 이상 성능이 발전되지 않는 그러한 순간이 오면,
더 이상 결과론적인 발전이 아닌 "과정을 중시하는 발전"을 자연스럽게 하게 될 것이다.
그렇기 때문에, 우리는 지금의 딥러닝이 가진 "설명 불가능한 판단"에 대해서 두려워할 필요는 없다.
2. 인간은 언제나 문제 상황에 따라 유동적으로 잘 대처함
또 한 가지의 이유를 보태자면,
인간은 항상 상황에 맞춰서 문제를 잘 해결해 나아갔다는 사실이다.
만약 인권을 무시하는 인공지능이 생긴다면, 다시 알고리즘을 수정하여 개선하면 되고,
만약 사람의 생명보다 돈을 더 중요시하는 인공지능이 있다면, 사회적 합의로 알고리즘을 수정하면 된다.
즉, 문제가 생긴다면 인간은 그 상황에 맞춰서 반드시 해법을 찾아낼 것이다.
3.애초에 인간은 문제상황에 따라서 잘 대처함
대부분의 사람들이 잘 모르기를,
현재의 인공지능이 생각하는 원리는 인간과 근본적으로 다르다.
현재의 연구 성과로는, 인공지능이 스스로 생각하여 판단하는 일은 결코 존재하지 않는다.
모든 인공지능은 그냥 사람이 시킨 일을 시킨 대로 "잘" 수행하는 것뿐이다.
만약 사람의 생명보다 돈을 더 중요시하는 인공지능이 있다면
그건 그냥 만든 사람이 그렇게 만들어서 오며,
만약 인권을 무시하는 인공지능이 생긴다면
인공지능을 만든 사람이 오로지 범죄율만을 고려하여 만들어서 오며,
만약 사람을 해치는 인공지능이 생긴다면
인공지능이 사람을 해치려고 생각한 게 아니라 그냥 만든 사람이 사람을 해치도록 만들어서이다.
즉, 공상과학에서 나오는 인간 vs 기계의 전쟁은 벌어지지 않는다.
---> 만약 그런 일이 생긴다면, 기계를 조종하는 인간이 있어서 일 것이다.
++ 총정리 3줄 요약정리
1. 결과만을 생각하여 판단하는 현재의 인공지능은 반드시 한계점에 봉착하여, 과정을 중시하는 인공지능으로 전환될 것이다.
2. 애초에 현재의 인공지능의 기술로는 "스스로 생각하는 인공지능은 결코 만들 수 없다"
3. 만약 인공지능이 사회적으로 해악이 되는 일을 한다면, 그건 인공지능의 문제가 아니라 "사람"의 문제이다.
이상으로, 인공지능의 발전의 위험성에 대한 글을 마치도록 하겠습니다!
긴 글 읽어 주셔서 감사드리며, 관련 내용에 대해서 궁금한 점 있으시면 댓글 남겨주세요!
'인공지능 정보' 카테고리의 다른 글
| "딥러닝"의 본질 (Nature of Deep learning) (0) | 2022.07.02 |
|---|---|
| 죽음을 두려워한다는 인공지능? - 대중을 기만하는 잘못된 오해 바로잡기 (0) | 2022.06.22 |
| [도서 추천] 딥러닝의 기본부터 최신 개념까지 쉽게 설명해놓은 책 (1) | 2022.06.18 |
| 함수(fuction) 와 1차 함수(linear fuction) (0) | 2022.06.01 |
| [Deep Learning] Reason for learning using only one type of activation function (0) | 2022.05.20 |
| [딥러닝] 활성화 함수를 1가지 종류만 사용해서 학습하는 이유 (0) | 2022.05.20 |
| 머신 러닝(Machine Learning)의 3가지 학습 방식 (0) | 2022.04.17 |