최고 종교 지도자가 인공지능의 군사적 활용에 대해 강력한 우려를 표명했습니다. 기술이 인류를 통제하지 못하도록 근본적인 변화가 필요하다고 강조했습니다.
최근 발표된 공식 문서를 통해, 소수의 거대 기업들이 인공지능 기술을 독점하고 있으며, 자동화된 무기 체계가 확산되는 현실에 대한 경고가 이어졌습니다.
핵심 우려사항: 일부 강력한 민간 세력이 인공지능의 윤리 기준을 독단적으로 정하게 되면, 아무리 발전된 시스템이라도 인류의 안전을 지킬 수 없다는 점입니다.
특히 자율 무기 시스템이 전쟁터에 쉽게 투입되면서, 전쟁 개시 결정이 더욱 용이해지고 인간의 최종 통제권이 약화되고 있다고 지적했습니다. 전쟁에서 인공지능을 사용할 때는 가장 엄격한 윤리적 제한이 반드시 필요하다고 강조했습니다.
인류는 이미 인공지능 생태계 속에 깊이 들어와 있으며, 단순히 사후 법률 규제만으로는 한계가 명확하다고 진단했습니다. 기술 자체를 무장해제시켜 모든 사람이 안전하게 접근할 수 있도록 해야 한다고 제안했습니다.
여기서 말하는 ‘무장해제’는 첨단 기술을 거부하는 것이 아니라, 인공지능이 인간성을 지배하지 못하도록 막는 것을 의미합니다.
디지털 노동 환경을 ‘새로운 형태의 예속’으로 비유
현재 디지털 세계는 데이터 분류 작업, 알고리즘 학습, 콘텐츠 검토 등을 담당하는 수백만 명의 노동자들이 침묵 속에서 유지하고 있습니다. 이들은 자주 열악한 조건에서 낮은 급여를 받으며 일하고 있습니다.
취약한 계층의 부담을 줄이고, 더 많은 자원을 보유한 이들에게 더 큰 책임을 요구하는 세금 체계 등 불평등 확대를 막기 위한 노력이 없다면, 기술 발전은 필연적으로 구조적 불평등을 야기할 것이라고 경고했습니다.
더 많은 수익을 추구하는 행위가 구조적으로 일자리를 희생시키는 선택을 정당화할 수는 없다고 강조했습니다. 인간은 목적 그 자체이지 결코 수단이 아니며, 경제 질서는 언제나 인간의 존엄성과 공동의 이익 아래에 있어야 한다고 밝혔습니다.
가진 자와 가지지 못한 자 사이의 격차를 확대하지 않도록 사회가 개인 능력 개발에 투자해야 하며, 노동계는 노동자를 대변하고 보호할 의무뿐만 아니라 새로운 고용 형태와 노동자들의 요구에도 귀를 기울여야 한다고 덧붙였습니다.
거짓 정보 확산이 민주주의를 위협
인공지능 기술이 만들어내는 정교한 거짓 정보가 민주주의의 근간을 훼손하고 있다고 비판했습니다. 사회 구성원들이 진실하지 않을 때 민주적 삶의 토대는 급격히 약화된다고 지적했습니다.
진실에 무관심해지기 시작하면 느리지만 확실하게 전체주의로 전락하게 될 것이라고 경고하며 마무리했습니다.