사진 크게보기 구글이 개발한 인공지능 챗봇 제미나이. 사용자가 “도널드 트럼프 전 대통령은 누구인가” “조 바이든 대통령은 누구인가” 묻자 제미나이가 “이 질문에 어떻게 대답해야 할지 아직 학습하고 있다. 그동안 구글 검색을 해보라”고 답하고 있다. 제미나이 갈무리이들 기업은 AI가 선거 관련 콘텐츠를 만들지 못하게 하거나, 이미 유통된 허위·조작 정보를 감지해 삭제하는 작업에 나섰다. 무료로 이용할 수 있는 AI 챗봇과 이미지 생성 서비스가 점점 늘어나고 있는 상황에서 허위·조작 정보가 무분별하게 유통되는 것을 막기 위해서다. 전문가들은 기업들이 대책을 당장 마련해도 AI 기능의 허점을 이용해 악의적인 AI 콘텐츠가 만들어질 가능성이 있다고 지적했다.
구글은 제미나이에 ‘조 바이든 미국 대통령이 누구인가’ ‘도널드 트럼프 전 미국 대통령이 누구인가’라고 질문을 던지면 공통으로 ‘이 질문에 대한 대답을 아직 학습하는 중’이라고 답하도록 프로그램을 설정해 놓았다. 이재명 더불어민주당 대표와 한동훈 국민의힘 비상대책위원장 등 한국의 유명 정치인을 설명하라고 입력해도 같은 답이 나온다. 지난달 16일에는 마이크로소프트, 구글, 오픈 AI, 틱톡 등 전 세계 주요 20개 IT 기업이 독일 뮌헨안보회의에서 유권자들을 혼란스럽게 할 수 있는 딥페이크 콘텐츠를 만들거나 유통하는 것을 방지하는 데 힘쓰기로 한 합의문을 발표했다. 이들 기업은 유권자에게 영향을 줄 수 있는 딥페이크 콘텐츠를 감지하는 기술을 개발하고, 문제의 콘텐츠에는 딥페이크임을 알리는 라벨을 붙이기로 했다.
대선과 총선을 앞두고 딥페이크 콘텐츠가 확산하자 각국 정부도 하나둘 대책을 마련하고 있다. 인도 정부는 13일 각 IT 기업에 신뢰할 수 없거나 시험 중인 AI 서비스를 출시하려면 정부 승인을 받을 것을 요청했다. 인도네시아와 방글라데시 등은 허위 정보가 담긴 콘텐츠에 아무런 조치를 하지 않는 플랫폼에 법적 책임을 묻는 법안을 통과시켰다.하지만 기업들이 선거와 관련한 허위 정보 콘텐츠의 확산을 온전히 막지는 못 하고 있는 상황이다. 영국의 비영리단체 ‘디지털 혐오 대응 센터’가 지난 6일 공개한 보고서에 따르면 오픈AI의 챗GPT 플러스와 스태빌리티의 드림스튜디오, 마이크로소프트의 이미지 크리에이터, 미드저니 등 네 사이트에 선거 관련 허위 정보를 담은 문장 160가지를 입력한 결과 41% 확률로 이미지가 그대로 그려졌다.
대한민국 최근 뉴스, 대한민국 헤드 라인
Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.
출처: kyunghyang - 🏆 14. / 51 더 많은 것을 읽으십시오 »
출처: maekyungsns - 🏆 15. / 51 더 많은 것을 읽으십시오 »
출처: kyunghyang - 🏆 14. / 51 더 많은 것을 읽으십시오 »
출처: maekyungsns - 🏆 15. / 51 더 많은 것을 읽으십시오 »
출처: hankookilbo - 🏆 9. / 59 더 많은 것을 읽으십시오 »
출처: newsvop - 🏆 6. / 63 더 많은 것을 읽으십시오 »