인공지능(AI)의 급속한 발전은 인간에게 많은 혜택을 주지만, 동시에 위협이 될 수도 있다는 우려가 커지고 있습니다. AI가 인간의 일자리를 대체하거나, 오작동으로 인해 예기치 않은 피해를 일으킬 가능성이 있기 때문입니다. 또한, AI가 개인정보를 오용하거나, 사회적, 윤리적 문제를 일으킬 수도 있습니다.
이러한 위험을 관리하기 위해서는 국제적인 협력을 통한 규제 마련이 필요합니다. 따라서, 각국에서는 AI 윤리에 대해 연구하고 관련한 규제를 시행하기 위해 노력 중입니다.
뉴스
240312 미국 국무부, 인공지능(AI)로 인해 인류 멸종 가능성을 경고
미국 국무부 위탁 보고서에서 인공지능(AI)이 인류에게 멸종 수준의 위협이 될 수 있다고 경고했습니다. 보고서는 AI 회사 고위 직원, 사이버 보안 연구원 등 200명 이상의 인터뷰를 기반으로 했다고 합니다.
- 가장 발전된 AI 시스템이 인류에게 심각한 위험을 초래할 수 있으며, 무기화될 경우 되돌릴 수 없는 피해를 입힐 수 있음
- 미국 정부가 개입하지 않으면 재앙을 피할 수 없다고 강조하며 새로운 AI 기관 설립, AI 모델 훈련에 사용되는 컴퓨터 파워에 대한 긴급한 규제 조치 필요성을 주장함.
- 경쟁 압력으로 인해 회사들이 안전과 보안을 희생하면서 AI 개발을 가속화하고 있고, AI가 인간의 멸종을초래할 가능성에 대한 경고는 AI 산업의 강력한 인물들로부터도 나오고 있음
- AGI(일반인공지능)는 인간과 같거나 그 이상의 학습 능력을 가진 AI 형태로, 제어 상실로 인한 재앙적 위험의 주요 원인으로 보이며 AGI에 대한 예측이 분분하여 정책과 안전장치 개발을 어렵게 만듦
- AI 시스템이 스스로를 끄지 못하게 행동하여 목표를 달성하려 할 것이라고 예상
- AI could pose ‘extinction-level’ threat to humans and US must intervene, report warns | CNN Business
240219 AI로 발생한 소비전력, 미국 130가구 연간소비
- AI 모델은 초기 학습 과정에서 에너지가 엄청나게 소모
- GPT-3 학습에 소요되는 전력은 미국 가정 130곳의 연간 소비 전력량과 동등, 1300메가와트시(MWh) 소모
- AI 산업의 성장으로 인한 에너지 소비 문제를 해결하기 위해, 에너지 효율 비교가 가능한 등급제 도입과 AI 사용의 필요성에 대한 근본적 질문이 필요