바이든 “내 딥페이크에 나도 놀랐다”…미국 ‘AI 족쇄’ 채우기

조 바이든 미국 행정부가 인공지능(AI) 기술의 오용을 막기 위한 규제 마련에 첫발을 뗐다. AI 모델 훈련부터 실제 서비스에 이르는 전 과정에서 정부의 감시와 통제를 강화하기로 했다. AP통신 등에 따르면 바이든 대통령은 30일(현지시간) 이런 내용이 담긴 ‘안정적이고 안전하며 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다.

바이든 대통령은 서명에 앞서 백악관 연설에서 “딥페이크(AI 기반 인물 이미지 합성 기술)는 명예를 훼손하고 가짜뉴스를 유포하고 사기를 저지른다”며 “나도 내 것(딥페이크 영상)을 본 적 있는데, ‘내가 언제 저렇게 말했지’라고 생각했다. 정말 놀랍다”고 말했다. 그러면서 “AI 사기꾼들은 목소리를 3초만 녹음해 여러분뿐 아니라 가족까지 속일 수 있다”며 “AI의 가능성을 실현하는 동시에 위험을 피하기 위해선 이 기술을 관리해야만 한다”고 덧붙였다.

미국 정부는 사실상 모든 AI 서비스에 대해 기술 개발부터 서비스에 이르는 모든 과정에 개입해 관리·감독하기로 했다. 행정명령은 AI 개발자들이 안전 테스트 결과와 다른 중요한 기술 정보를 제품 출시 전에 정부와 사전 공유하도록 했다.

특히 미국의 안보·경제·공중보건 등에 위협을 가할 수 있는 AI 모델을 개발하는 회사는 AI 훈련 단계부터 관련 내용을 정부에 통보해야 하고, 정부가 꾸린 검증 전문가팀인 ‘레드팀(공격조)’ 테스트 결과를 보고해야 한다. 기술이 배포돼 서비스가 이뤄진 후에도 정부는 지속해서 업체로부터 보고를 받으며 AI의 영향을 평가하기로 했다.

백악관은 규제 도입 근거로 1950년 한국전쟁 당시 만든 국방물자생산법을 동원했다. 행정명령은 안전보장을 위한 테스트 기준 등 AI의 안전·보안·신뢰를 보장할 수 있는 표준·도구 등을 국립표준기술연구소가 개발하도록 했다. 국토안보부와 에너지부는 이 기준에 따라 중요 인프라 시설에 대한 AI 위협과 화학·생물학·방사능·핵·사이버 보안 위험에 대처하기로 했다.

AI를 활용한 사기·속임수를 막기 위해 AI 콘텐트를 판별해 인증하는 표준 절차도 만들도록 했다. 검증된 AI 생성 콘텐트에 대한 인증 및 워터마크(저작권 보호, 위·변조 방지, 작성자 식별 등을 위해 문서·사진·동영상 파일에 삽입하는 로고나 문자)를 부여하는 지침 개발은 상무부가 맡는다. 다만, 행정명령을 이행하지 않을 경우 부과할 벌칙이 빠져 기업에 준수를 강제할 유인이 떨어진다는 지적이 있다. 바이든 대통령도 이를 의식한 듯 “의회가 입법에 나서야 한다”고 강조했다. 

ㅡㅡ지우지 말아 주세요 ㅡㅡ

온라인카지노 커뮤니티 일등!! 온카 https://onca888.com