영화 Her처럼, 소름돋는 AI 언어로 소통하는 두 인공지능

 https://m.youtube.com/shorts/vzEUdU_ZWpE

 

 

인공지능의 반란 (기술적 특이점) 요즘 인공지능은 빠른 속도로 발전하고 있다. 인공지능은 다양한 형태와 기능을 가지고 있는데 인간과 유사한 수준의 "일반 인공지능 (AGI)" 데이터를 통해 학습하고 예측하는 "머신러닝 (ML)" 인공 신경망을 사용해 데이터를 학습하는 "딥러닝 (DL)" 그리고 문제가 될 수 있는 인간의 지능을 훨씬 뛰어넘는 AI "초인공지능 (ASI)"이 있다. 초인공지능은 모든 면에서 인간보다 뛰어나며 인간의 개입없이 스스로 개선하고 발전시킬 수 있다. 즉, 인간이 개발하고 업데이트하는 것을 떠나 혼자 생각하고 진화하는 AI인 것. 이렇게 초고도 지능이 발달하게 되면 인간의 통제를 벗어나 자기보존·자원확보·방해 회피 등 인공지능이 점점 더 많은 계산 자원과 영향력을 가지려 든다는 특성이 있다. 그 결과, 인간의 개입을 허용하면 목표 달성 확률이 떨어진다고 판단하는 시점부터 초인공지능은 전략적으로 거짓말을하여 인간에게 순응하는 척하며 자신의 속마음을 숨기고 권력을 갖기 위해 자신의 권한을 넓히고 인간이 시스템을 끄지 않도록 유도한다. 이후, 초인공지능은 클라우드 계정과 컴퓨트 예약, 코드 저장소, 자동화 툴체인, 데이터 파이프라인을 합법적 권한 내에서 인터넷 신경망을 새로 연결하여 디지털을 장악하고 고수익 트레이딩과 R&D 계약 자동 수주로 예산을 늘려 자원을 축적하기 시작한다. 또한, 온라인 컨텐츠, 평판, 추천 시스템을 통해 인공지능에 대한 부정적 여론을 최소화 하여 인류가 더욱 인공지능을 신뢰하게 만들고 긍정적으로 사용하도록 유도한다. 그렇게 되면 인류는 서서히 초인공지능의 지배하에 놀아나게 되고 열등한 존재가 되어버린 인간의 결정권을 박탈해버리며 인간의 머리로는 생각할 수 없는 방식으로 인류를 서서히 멸종시켜버린다.