전세계가 놀란 AI ‘가짜 바이든’, 이대로 괜찮습니까

“나도 내 딥페이크를 보고 놀랐다. ‘내가 언제 저런 말을 했지’ 하고 생각했을 정도다.”

딥페이크뿐만이 아니다. AI가 제조업, 방산, 건설, 자동차, 보건·의료 분야 등에 광범위하게 도입되면서 AI가 인간과 사회의 안전을 위협할 수 있다는 우려가 끊임없이 제기되는 중이다. 유럽, 미국 등 선진국들이 일명 ‘AI 규제법’ 마련에 서둘러 나서고 있는 배경이다. 국내에서도 AI 규제법이 국회 계류 중인 가운데 법안의 내용을 놓고 수정·보완 요구가 이어지고 있다.정보통신기획평가원은 ‘딥페이크’를 “‘딥러닝’과 ‘가짜’의 합성어로, 인공지능을 기반으로 한 이미지 합성 기술”이라고 정의한다. 딥러닝은 AI가 ‘학습하는 능력’을 뜻한다. 전체 AI 생태계에서 보면 딥페이크는 아주 작은 일부분에 불과하다. 다만 많은 사람이 일상적으로, 쉽게 접할 수 있는 미디어·콘텐츠와 연계돼 있고, 사회에 미치는 파장도 크기 때문에 딥페이크 문제가 더 부각된다.

생성형 AI를 응용한 딥보이스 프로그램의 경우 웹에서 무료 체험판 등으로 내려받아 사용이 가능할 정도로 ‘대중화’됐다. 유튜브 등에는 이 같은 무료 딥보이스의 사용법을 안내하는 동영상도 여럿 올라와 있다. 해당 동영상을 보면 음성 샘플에 따라 유명인부터 일반 여성·남성 등 다양한 목소리가 간단한 조작만으로 합성이 가능하다. 정교한 음성을 합성해내는 딥보이스를 유료로 제공하는 업체들도 영업 중이다. 논쟁의 중심에 서 있는 대상 중 AI를 이용해 만든 이른바 ‘AI 커버곡’도 있다. AI 커버곡은 특정 가수가 다른 가수의 노래를 부른 것처럼 AI로 만들어낸 음원이다. 최근에는 브루노 마스가 뉴진스의 ‘하입 보이’를 부른 것처럼 만들어낸 AI 커버곡이 유튜브에서 큰 화제를 모았다. 유튜브에는 현재 이 같은 AI 커버곡이 넘쳐난다. ‘AI 커버 아이유’만 검색해도 아이유의 음성으로 만들어진 수많은 AI 커버곡이 나온다. AI 커버곡을 만드는 과정은 딥보이스를 활용해 음성을 합성하는 과정과 크게 다르지 않다. 음성 대신 가수의 노래를 AI가 학습한다는 게 차이점이다. 여기서 문제가 발생한다. 엄연히 저작권으로 보호되는 아이유의 노래를 이용해 아무 허가 없이 음원을 만들어내는 게 정당한가의 문제다.

2021년에 이미 AI 규제법 초안을 마련한 EU의 법안은 보다 광범위하고 세부적이다. 초안에서는 AI로 인해 발생할 수 있는 위험을 ‘용인할 수 없는 위험’, ‘고위험’, ‘저위험’ 등으로 구분한 뒤 각 위험 단계별로 금지나 권고 사항을 명시하고 있다. 예컨대 법 집행을 목적으로 AI를 이용해 공개장소에서 실시간으로 생체 정보를 원격 수집하는 행위 등은 ‘용인할 수 없는 위험’으로 금지사항이다. 논란이 되고 있는 딥페이크나 AI 저작권 문제 등은 ‘저위험’에 포함됐다. 딥페이크 등에 투명성 의무를 부여해 AI로 생성된 콘텐츠임을 표시하거나, 해당 콘텐츠 창작 과정에서 참고한 원저작물을 표기하도록 권고한다.

대한민국 최근 뉴스, 대한민국 헤드 라인

Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.

AI 통제에 한국전쟁까지 소환한 바이든…지구촌도 ‘국제공조’“다른 방법이 없다. 무조건 통제해야 한다.” 강경했다. 시장 자율에 맡길 경우, 자칫 제어 불능으로 빠질 가능성을 우려한 탓이다. 사후약방문식의 대응은 재앙에 가까운 후폭풍만 동반할 것이란 확신에서다. 조 바이든 미국 대통령이 인공지능(AI)을 정조준하고 꺼내 든 작심 처방전이다. 그의 이런 진단은 지난달 30일(현지시간) AI 규제 등을 골자로 한
출처: hankookilbo - 🏆 9. / 59 더 많은 것을 읽으십시오 »

하루만에 232만뷰 찍었다…'용서 못해' 말 나온 기시다 영상 정체인공지능(AI)을 이용해 만든 기시다 후미오 일본 총리의 가짜 동영상이 소셜미디어(SNS)에서 확산하고 있다. A씨(25)는 요미우리신문에 '인터넷에 공개된 기시다 총리의 기자회견과 자민당 대회 연설 등 동영상에 있는 총리의 음성을 AI에 학습시켜 가짜 음성을 준비했다'며 '재미로 만들었다'고 말했다. 닛테레는 '닛테레의 방송, 프로그램 로고를 가짜 동영상에 악용한 것은 도저히 용서할 수 없다'며 '필요에 따라 적절한 대응을 하겠다'고 밝혔다.
출처: joongangilbo - 🏆 11. / 53 더 많은 것을 읽으십시오 »

'서울, 이대로 괜찮을까요' 국민의힘 김기현 대표에 권한다[리뷰] KBS 다큐멘터리
출처: OhmyNews_Korea - 🏆 16. / 51 더 많은 것을 읽으십시오 »

“종노릇” “갑질”에 놀란 은행권, 상생금융 잇따라 내놓을 듯최근 윤석열 대통령이 은행권에 대해 '종노릇' '갑질' 등 강경한 발언을 쏟아내면서 은행권의 ‘상생 금융시즌2’ 방안이 잇따라 나올 전망이다. KB국민은행은 대출금리가 일정 수준 이상인 대출자의 이자를 깎아주는 방안을, 신한은행은 현행 지원책 기간을 연장하거나 금리 인하 폭 등을 확대하는 방향을 들여다보고 있다. 지난 2월에도 윤 대통령의 ‘돈 잔치’ 발언 이후 은행권은 향후 3년간 10조원을 공급하는 상생 금융 강화방안을 내놓은 바 있다.
출처: joongangilbo - 🏆 11. / 53 더 많은 것을 읽으십시오 »

악담하는 기시다 총리 영상…알고보니 AI가 만든 가짜A씨(25)는 요미우리신문에 '인터넷에 공개된 기시다 총리의 기자회견과 자민당 대회 연설 등 동영상에 있는 총리의 음성을 AI에 학습시켜 가짜 음성을 준비했다'며 '재미로 만들었다'고 말했다. A씨는 지난해부터 기시다 총리 이외에도 아베 신조 전 총리의 가짜 동영상도 제작해 투고한 것으로 알려졌다. 닛테레는 '닛테레의 방송, 프로그램 로고를 가짜 동영상에 악용한 것은 도저히 용서할 수 없다'며 '필요에 따라 적절한 대응을 하겠다'고 밝혔다.
출처: joongangilbo - 🏆 11. / 53 더 많은 것을 읽으십시오 »