본격적으로 연말 약속이 잡히는 걸 보니 올해가 얼마 남지 않았음을 실감한다. 해마다 많은 곳에서 한 해를 대표하는 무언가를 선정한다. 2023년이 다 가지 않았으나 디지털 기술 분야에서 올해를 대표하는 것은 단연 생성형 AI다. 여러 디지털 기술의 개발이나 비약적 발전이 있었지만 생성형 AI의 화제성과 충격을 뛰어넘을 수 없다. 인터넷 검색, 문서 작업, 각종 텍스트․이미지․사운드․비디오 생산 등 일상적 작업부터 최첨단 기술 개발에까지 활용되고 있는 생성형 AI는 이제 웹3.0시대가 열렸음을 알리는 디지털 기술의 그야말로 게임체인저다. 언론은 연일 앞다퉈 생성형 AI와 관련된 소식을 쏟아내고 정치․경제․사회․문화 각 영역에 미칠 영향력을 분석한다. 생성형 AI 기술을 언론에 어떻게 활용할 수 있을 것인가에 대한 관심도 점점 많아지고 있다.
지난 5월 세계신문협회(WAN-IFRA)는 세계 언론사들에서 챗GPT 등 생성형 AI가 활용되는 현황과 인식에 대한 서베이 결과를 발표했다. 뉴스룸 소속 기자, 편집자 등을 대상으로 한 이 서베이에서 응답자는 모두 101명이었다. 자신이 속한 뉴스룸의 기자 중 얼마나 매주 생성형 AI를 사용하는지를 질문한 결과, 응답자의 70%가 15% 이하라고 답했다. 사용하는 기자가 없다는 응답은 13%였다. 50% 이상의 기자가 매주 사용하고 있다는 응답은 3%에 불과했다. 뉴스룸에서 생성형 AI 도구를 사용하는 데 있어 편집자가 개방적이라는 응답은 37%, 기자가 개방적이라는 응답은 26%였다. 생성형 AI 도구 활용이 뉴스룸에 도움을 준다는 응답은 70%에 달했다. 뉴스룸의 생성형 AI 활용과 관련된 가이드라인 있다는 응답은 20%였다. 한편 생성형 AI 도구를 활용하는 분야를 살펴보면 텍스트 창작 54%, 간단한 리서치 및 검색 44%, 작업 효율성 제고 43%, 텍스트 수정 43%였다. 생성형 AI의 뉴스룸 활용에서 응답자가 우려하는 사항은 정보의 부정확성 및 콘텐츠 질 하락 85%, 표절 및 저작권 침해 67%, 데이터 보호 및 개인정보 보호 문제 46%, 고용 안정 위협 38%였다. 생성형 AI 기술의 발전과 도구의 보급 속도를 볼 때, 2024년은 뉴스룸의 새로운 전기가 될 것으로 어렵지 않게 전망할 수 있다.
최근 생성형 AI와 관련해 두드러지는 이슈는 AI 규제 논의 및 제정이다. 지난 1일과 2일 영국 블레츨리파크에서 AI안전정상회의(AI Safety Summit)가 열렸다. 여기에는 G7(미국·영국·독일·프랑스·일본·이탈리아·캐나다) 및 우리나라를 비롯한 모두 28개국의 정부 고위 관계자와 테슬라․구글딥마인드․오픈AI․삼성전자․네이버 등 기업에서 100여 명의 전문가가 참석했다. 특히 이 정상회의에서 인간 통제를 벗어나 스스로 생각하고 추론하며 전쟁에 활용되는 등 인류에게 심각한 위험을 초래할 수 있을 정도의 고도로 발전한 프론티어 AI가 잠재적으로 재앙 수준의 위험을 초래할 수 있다는 데 동의했다. 이에 참석국은 AI 개발 및 배포에 있어 안전과 윤리를 제고하기 위한 비전과 원칙을 담은 블레츨리 선언에 합의했다. 국제사회가 처음으로 AI가 가져올 피해를 막기 위해 공동 협력에 나선 것이다.
이보다 앞선 지난달 30일 조 바이든 미국 대통령은 AI 기술의 오용이 발생시킬 위험을 차단하기 위한 행정명령에 서명했다. 이 행정명령은 AI 서비스의 안전 테스트 결과와 다른 중요한 기술 정보를 제품 출시 전에 미국 정부와 공유하도록 규정하고 있다. 특히 국가안보, 경제, 공공보건 등 분야에서 AI 모델을 개발하는 회사는 AI 훈련 단계부터 정부에 통보해야 하고, 정부 검증 전문가팀의 안전 테스트를 받아야 한다. 사실상 모든 AI 서비스에 대해 출시 전부터 서비스를 진행하는 모든 과정에까지 정부가 개입하고 관리․감독하겠다는 것이다. 아마존, 알파벳, 오픈AI, 메타 등 주요 AI 빅테크기업은 바이든 행정부의 이러한 규제에 따르기로 했다. 유럽에 비해 빅테크기업에 관대했던 미국이 AI 규제 논의를 이끌고 가게 됐다는 평가다.
사실 AI 규제 관련해 가장 빠른 진척을 보이는 곳은 EU(유럽연합)다. 지난 6월 유럽의회 본회의를 통과한 AI법(AI Act) 초안은 EU이사회와 EU의회 및 EU집행위원회 간 3자 협상을 거쳐 2025년부터 시행이 가능할 것으로 보인다. 이 법안은 EU집행위원회가 2년여 동안 준비한 것으로 올해 생성형 AI 관련 내용까지 추가됐다. 여기에서는 생성형 AI 개발자에게 콘텐츠 투명성 조건을 지키도록 요구한다. AI가 생성한 콘텐츠를 따로 표시하거나 딥페이크를 통해 만들어진 이미지와 실제 이미지를 구분하도록 강제하는 식이다. EU는 AI가 인간 존엄성을 침해하는 것을 방지하기 위해 AI에 대한 강력한 규제가 필요하다고 본다. 이에 EU AI법은 인간성 보호에 집중하면서 신뢰할 수 있는 AI의 이용을 확산시키는 데 초점을 맞췄다.
한편 일부에서는 빅테크기업이 자신의 이익을 위해 AI의 위험을 과장하고 있다고 비판한다. 즉 AI 산업에 대한 규제 도입은 소수 기업이 AI를 통제하는 결과를 낳게 되는데, 빅데크기업이 이를 위해 과도하게 AI 기술의 위험성을 부각한다는 것이다. 또한 개방형 AI를 억제하고 혁신을 무너뜨리는 데에 규제가 작동될 것으로 우려한다. 이와 관련해 일론 머스크 테슬라 CEO는 AI 기술과 관련해 제3자 심판기구 설립을 주장하고 있다. AI 기업이 무엇을 하고 있는지 관찰하고 우려 사항이 있으면 최소한의 경고를 할 수 있는, 정부도 기업도 아닌 제3자가 심판할 수 있는 체계를 구축해야 한다는 것이다. 그는 정부가 무엇을 해야 하는지 정확히 알기도 전에 성급하게 AI 관련 규제를 제정하고 적용하는 데에 문제를 제기한다. 이는 강력한 규제가 AI 발전에 걸림돌이 될 수 있다는 지적과 맥을 같이 한다.
이처럼 AI 규제 논의 및 제정에 대한 글로벌 이슈는 장차 언론의 생성형 AI 활용에 직간접적으로 영향을 미칠 것이다. AI 기술 자체의 중립성과는 별개로 도입, 활용, 응용 등에서 어떠한 선택이 이뤄지느냐에 따라 언론 현실에서 구현되는 AI 기술은 크게 달라지기 때문이다. 지금까지 이 선택의 주체는 대부분 국가나 기업이다. 하지만 앞으로는 일종의 국제기구가 법․제도․정책 차원에서 AI 기술을 선택하고 규제할 가능성이 매우 높다. 이에 대한 글로벌 빅테크기업들의 적극적 공동 대응도 나타날 것이 분명하다. 언론이 관심을 가져야 할 것은 AI의 최신 기술 동향만이 아니다. 규제로 인해 규정될 AI 기술 현실에 대한 관심과 분석이 필요한 때다.
김위근(퍼블리시 최고연구책임자·언론학박사)