인공지능 개발이 멈춰야하는 이유

​인공지능 개발이 멈춰야하는 이유

인공지능 개발을 왜 멈춰야 할까요? 이유 3가지만 알려주세요

​

(논거1) 첫째, 속도의 문제. 변화의 속도를 따라잡기가 쉽지 않다.

제리 카플란은 그의 책 <인간은 필요없다 >에서 “문제는 속도이지, 변화 그 자체가 아니다”라며 인류가 직면한 문제의 본질을 지적한 바 있다. 그는 “인류의 역사는 변화에 적응하는 방향으로 전개되었다”고 주장했다. 그러나, 인공지능 시대의 도래는 다른 변화들과는 그 성격이 다르다. 속도가 지나치게 빠르다는게 문제이다. 뒤돌아서면 전세계 정보가 두배 세배가 되고, 새로운 기기에 적응할만 하면 이미 몇갑절 업그레이드된 기기가 나오고 있는 세상이다. 그럼에도 불구하고, 카플란은 “우리는 이 변화의 속도에 잘 적응하여, 또 한번의 찬란한 시대를 맞이할 수 있다”고 낙관하지만, 그가 제시한 해결책으로만 보아도 그 낙관은 녹록치 않아 보인다. 미래학자인 레이 커즈와일은 “인공지능 기술이 특이점에 도달하는 2045년이 되면, 인간은 통제력을 상실할 것”이라고 전망했다. 과연 우리는 이 속도를 따라잡는데 성공할 수 있을까?

(논거2) 둘째, 인간의 가치 상실. 폭넓은 인공지능의 사용은 인간의 가치를 상실하게 할 것이다.

인공지능이 우리 삶 속에 넓고 깊게 들어올수록 다수의 개인은 존재가치를 잃게 될 것이다. 경제적, 정치적, 군사적 쓸모를 잃을 것이기 때문이다. 이 시스템에서는 대중의 가치보다는 업그레이드된 엘리트 집단이 가치를 점유하게 될 것이다. 나머지의 잉여인간은 무엇을 해야 하는가의 문제에 부딪히게 된다. 인간은 뭐라도 하지 않으면 견디지 못하는 존재이다. 다수에 속하는 대중이 엘리트 집단과 컴퓨터에 의해 지배받게 된다면 인간은 존재의 가치를 상실하게 될 것이다. 행복에 대한 폭넓은 정의로 사용되는 ‘주관적 안녕감’과는 멀어지게 된다.

(논거3) 방법론적 비현실성. 인공지능을 적절한 수준으로 통제하는 것은 기술적으로 불가능하다.

다가올 인공지능과 인간이 결합된 사회를 우리는 과연 통제할 수 있는가? 일단 기술적으로는 통제가 불가능하다. 따라서 윤리적 법적 가이드라인을 마련해 통제해야 한다. 올바르지 않은 목적을 지닌 사람들이 인공지능시스템을 장악할 경우, 전쟁만큼 파괴력을 가질 수도 있기 때문이다. 물론 인공지능이 스스로 악해질 리는 없다. 그러나 인공지능과 우리의 목표가 살짝만 어긋나도 문제가 달라진다. 책임을 기계에 떠넘길 수는 없으니 인간의 가치와 윤리를 반영하는 일은 매우 중요하다. 인공지능이 인류에 도움이 되도록 발전하길 원한다면 우리가 그 방향의 길이 될 목적과 계획을 규정해야 한다.