[오늘의 기도] AI 기술 개발 ‘레드 라인’ 필요… 자기 복제·WMD 설계 금지해야

서방과 중국의 인공지능(AI) 분야 최고 전문가들이 AI 기술 개발의 ‘레드 라인’(한계선)을 확인했다. AI가 인간의 승인 없이 ‘자기 복제’를 한다거나 대량살상무기(WMD) 설계, 치명적인 사이버 공격 등을 실행할 수 없도록 반드시 제한을 둬야 한다는 얘기다. 이를 위해선 냉전 시기에 핵전쟁을 막으려 했던 노력과 비슷한 수준의 글로벌 협력이 필요하다고도 촉구했다.

영국 파이낸셜타임스(FT)는 18일(현지시간) “지난주 중국 베이징에서 서방과 중국의 주요 AI 과학자들이 만나 바이오 무기, 사이버 공격 등 AI 개발의 위험성을 논의했다”며 이같이 보도했다.

(중략)

실제 성명에는 “어떤 AI 시스템도 명시적인 인간의 승인과 도움 없이 스스로 복제 또는 개선하려 한다거나, 자신의 힘과 영향력을 과도하게 늘리려는 조치를 취해선 안 된다”는 문구가 담겼다. 또 “어떤 시스템도 WMD를 설계하거나 생화학무기 협약을 위반하도록, (자신의) 능력을 실질적으로 향상시켜선 안 된다. 심각한 재정적 손실 또는 그에 상응하는 피해를 초래할 사이버 공격을 자율적으로 실행할 수 있어서도 안 된다”는 내용 역시 포함돼 있다.

이번 회의는 ‘세계의 양대 기술 강국인 미국과 중국이 AI 안전에 대해 협력해야 한다’는 학계의 목소리가 커지는 가운데 열렸다. 지난해 11월 조 바이든 미국 대통령과 시진핑 중국 국가주석은 샌프란시스코 정상회담에서 이 문제를 논의한 뒤 관련 대화를 이어가기로 합의했다. 주요 AI 기업 관계자들도 최근 몇 달간 비공개로 중국의 AI 전문가들을 만난 것으로 전해졌다.

출처 : 한국일보

나는 선한 목자라 나는 내 양을 알고 양도 나를 아는 것이 아버지께서 나를 아시고 내가 아버지를 아는 것 같으니 나는 양을 위하여 목숨을 버리노라 (요10:14)

우리의 주인 되시고, 목자 되시며, 왕 되신 하나님을 찬양합니다.

하나님, AI 기술 개발이 가속화되면서 인공지능이 자기복제, 대량살상무기 설계, 치명적인 사이버 공격 등으로 세계에 위협을 줄 수 있다는 우려가 나왔습니다.

주님, 기술개발의 가속화로 인해 인간성과 윤리가 침해받고 있는 시대 가운데, 인간으로부터 만들어진 것들이 인간을 통치하려하는 위험으로부터 저희를 보호하여 주십시오.

세상은 화려한 기술로 좋고 편한 삶을 살 수 있다고 말하며 사람들을 미혹하지만, 오직 예수님만이 선한 목자가 되시며, 예수님이 아닌 모든 것은 삯꾼일 뿐입니다.

인간이 만들어 낸 기술이 아닌, 모든 역사의 주관자이시요, 이 세상을 창조하신 하나님의 통치가 모든 민족가운데 임하게 하여 주시옵소서.

마지막을 향해 달려가고 있는 이 때, 세상은 점점 더 인간성을 상실하고 타락해져 가고 있지만, 주님의 지상명령은 더욱 빠르게 이루어지게 하여 주시옵소서!