테슬라(Tesla)의 창업자 엘론 머스크를 비롯해 로봇공학 및 AI 산업계의 인물들은 최근 UN(United Nations)에 서신으로 자동 작동 무기에 대한 보호책을 촉구했다. 이 서신에서 그들은 “치명적인 자동 작동 무기 시스템(Lethal Autonomous Weapon Systems)”의 활용을 검토하기 위한 GGE(Group of Government Experts) 수립을 축하하며, 이런 자동 작동 무기가 “전쟁의 3차 혁명이 될 위험”이 있다고 강조했다.

서신은 이렇게 마무리됐다.

개발이 완료되면 그 어느 때보다도 큰 규모의 무력 충돌이 가능할 것이며 인간이 이해할 수 있는 수준보다 더욱 빠를 것이다. 테러리스트와 폭군들이 무고한 사람들을 상대로 이런 무기를 사용할 수 있으며 무기를 해킹하여 바람직하지 않은 용도로 활용할 수 있다. 우리는 시간이 없다. 이 판도라의 상자가 열리면 닫기가 어려울 것이다.

Once developed, they will permit armed conflict to be fought at a scale greater than ever, and at timescales faster than humans can comprehend. These can be weapons of terror, weapons that despots and terrorists use against innocent populations, and weapons hacked to behave in undesirable ways. We do not have long to act. Once this Pandora’s box is opened, it will be hard to close.

서명인에는 딥마인드(DeepMind)의 설립자 무스타파 술레이만(Mustafa Suleyman)을 비롯해 전 세계의 학계 및 산업계 명사들이 포함돼 있다.

An Open Letter to the United Nations Convention on Certain Conventional Weapons - Future of Life Institute
As companies building the technologies in Artificial Intelligence and Robotics that may be repurposed to develop autonomous weapons, we feel especially responsible in raising this alarm. We warmly welcome the decision of the UN’s Conference of the Convention on Certain Conventional Weapons (CCW) to …

[관련자료]

[언론보도]