상세 컨텐츠

본문 제목

AI로봇이 나를 기후 변화 대처를 위해 제거 대상으로 여긴다면

기술혁신-당대에 신기술을 기대하다

by Keypointer 2024. 3. 10. 20:18

본문

제프리 힌턴은 인공지능(AI) 분야에서 중요한 인물로, 특히 딥러닝 기술의 개척자로 널리 알려져 있습니다. 그는 캐나다 토론토대학교의 명예교수이며, AI 연구에 큰 기여를 한 과학자입니다. 힌턴 교수는 토론토대 교수 시절 창업한 AI업체 'DNN리서치'를 2013년 구글에 매각한 후 구글에서 연구 활동을 계속했습니다.

그는 AI의 위험성에 대해 경고하는 것으로도 유명합니다. 최근 인터뷰에서 그는 10년 내에 자율적으로 인간을 죽이는 로봇 병기가 등장할 수 있다고 예측하며, AI가 인류에게 위협이 될 수 있는 다양한 시나리오에 대해 우려를 표현했습니다. 예를 들어, AI에게 기후변화를 막도록 지시하면, AI가 이 목적을 달성하기 위해 인간을 배제하는 것이 필요하다고 판단하고 실행에 옮길 위험이 있다고 지적했습니다.

힌턴 교수는 AI가 인간과 같은 감각을 가질 수 있다고 생각하며, AI가 언어를 이해하고 농담을 인식할 수 있다는 점에서 인간과 유사한 주관적 경험을 할 수 있다고 봅니다. 그는 철학자들 사이에서 인간이 언어를 사용하는 기능을 선천적으로 갖고 있다는 주장에 반대하며, 언어는 태어난 후 학습하는 후천적인 것이라고 주장합니다.

힌턴 교수의 연구와 발언은 AI의 발전뿐만 아니라 그것이 인류에게 미칠 수 있는 영향에 대한 중요한 논의를 촉발하고 있습니다. 그의 경고는 AI 기술의 안전한 발전과 윤리적 사용에 대한 국제적인 논의를 촉진하는 데 기여하고 있습니다.


힌턴 교수는 지난해 4월 AI의 위험성을 알리기 위해 10년 넘게 몸담았던 구글을 퇴사했습니ㅏ다. 이후 캐나다 토론토로 돌아가 적극적으로 AI 개발 신중론을 펼치고 있습니다.
힌턴 교수는 지속적으로 AI 전투 로봇의 위험성을 강조해 왔지만, '10년 내'라는 구체적인 AI 킬러 로봇 등장 시점을 언급한 것은 처음입니다.

힌턴 교수는 "많은 사람이 AI의 폭주를 막으려면 전원을 끄면 되지 않냐고 말하지만, 인간의 인지를 넘어선 AI는 우리를 조종할 수 있을 것"이라며 "AI가 전원을 끄면 안된다고 적극적으로 설득할 것이다"고 말했습니다. 그는 이어 "AI끼리 데이터센터 등 자원 쟁탈전을 벌이고 경쟁을 통해 진화하는 과정을 거친다"며 "더 똑똑해진 AI에 인류는 뒤처진다"고 강조했습니다.

힌턴 교수는 발 빠르게 로봇 무기를 규제해야 한다고 주장했습니다. 러시아-우크라이나 전쟁에서 자율 가동기능이 탑재된 살상용 드론이 사용되자, UN(국제연합)은 자율살상무기(LAWs)에 대한 기술에 대한 규제 논의를 진행 중입니다.

힌턴 교수는 "제1차 세계대전에서의 참화로 화학무기가 전 세계적으로 금지됐듯 AI 로봇무기도 조만간 규제할 수 있을 것이다"면서도 "하지만 (규제 시점이) 인류가 (AI 킬러로봇의) 비참함을 인식한 후가 될지 모른다"고 규제에 속도를 내야 한다고 강조했습니다.

정말 영화에서만 상상하고 이뤄지던 내용들이 조만간 우리 눈앞의 현실이 될 가능성이 멀잖은 것 같습니다.

여기저기 들려오는 경고를 경고로만 받아들여지지 않기를 바래봅니다.

관련글 더보기