“AI 시대, 윤리 문제 논의 시급…AI 국가주의도 극복해야”

5일 서울 롯데월드타워에서 개최된 'AI월드 2024'에 참석한 파올로 베난티 프란치스코 교황(왼쪽)과 정재승 카이스트 뇌인지과학과 교수./김민주 기자

생성형 AI가 급속도로 발전하며 인공지능이 우리 삶 깊숙이 들어와 있는 상황에서 각종 윤리 문제에 대한 논의가 더욱 시급해졌다. 전문가들은 AI 국가주의를 넘어 세계가 힘을 합쳐서 글로벌 접근성을 확보하고 국제 표준 등을 만드는 노력이 필요하다고 강조했다.

5일 파이낸셜뉴스와 과학기술정보통신부가 주최한 'AI월드 2024'가 서울 롯데월드타워 롯데시네마에서 개최됐다.

이날 정재승 카이스트 뇌인지과학과 교수는 "모든 정보의 가치를 담아 전해주는 인공지능이 챗GPT와 같은 모델인데, 너무 많은 데이터를 가져서 다수이기도 하고 그만큼의 권위도 갖고 있다"며 "인간 역시 AI로부터 막대한 영향을 받는데, 그 영향력을 제어할 수 있는 윤리는 우리나라에 없다. 현재 우리나라는 윤리에 있어 '황무지'라고 할 수 있다"고 우려했다.

이어 "이미 인공지능의 다양한 윤리적 문제가 인간의 삶 속에 들어와 있으므로 미래에 대한 대비가 아니라, 지금 이 순간 시급하게 소통해야 하는 사회적 이슈"라고 강조했다.

또 정 교수는 "집에서 AI 스피커가 우리의 얘기를 듣고 있다. 그걸 바탕으로 유튜브 등에서 대화 내용과 관련 있는 상업 광고를 보여주기도 한다"며 "개인 데이터의 상업적 사용과 사생활 침해 등은 매우 심각한 문제임에도 우리는 이에 대한 사회적 합의를 갖고 있지 않다"고 말했다.

그러면서 "앞으로 더 많은 부분을 AI에 의탁하게 될텐데, 관련된 윤리적 이슈에 대한 논의하지 않으면 큰 일이 벌어질 것"이라며 "기업에게는 데이터를 공정하게 사용하는 것과 타인의 데이터를 사용한 것에 대한 적절한 비용을 지불하는 것 등의 의무를 부과해야 한다"고 덧붙였다.

파올로 베난티 프란치스코 교황이자 AI윤리부문 고문 역시 "AI와 사회 구조가 양립하는 것이 중요하다. AI가 제작한 영상이나 이미지의 경우 AI가 만들었다는 것을 식별할 수 있도록 워터마크 등의 표식을 남겨야 한다"며 "이러한 부분은 기술적 측면보다는 사회적 보호 장치를 어떻게 마련할지에 대한 논의다"라고 말했다.

글로벌 AI 기술 패권 경쟁이 심화될수록 AI 국가주의 역시 넘어야 할 과제로 꼽힌다. 로버트 트래거 옥스퍼드대학교 마틴스쿨 AI거버넌스 디렉터는 이날 "최근 MS는 독일에서 AI 사업을 확장하고 클라우드 인프라를 구축하기 위해 32억 유로를 투자했다"며 "중국도 AI가 국가의 최우선 과제로, 거의 3000억 위안(약 57조원)을 투자해 중국 내 반도체 공급망을 구축하고 서구 국가에 대한 의존도를 줄일 전망"이라고 설명했다.

이어 "이러한 AI 국가주의를 극복하기 위해서는 글로벌 접근성 확보라는 공통된 과제가 있다. AI 기술로 전세계의 많은 사람들에게 골고루 혜택을 줘야 하며 통제력을 상실한 상황이 발생해 유해하게 사용되는 부작용을 막아야 한다"며 "업무 환경 변화도 줄여야 하고, AI가 만든 콘텐츠를 구별해 사람이 누구와 상호작용하는지 분별할 수 있게 해야 한다. 이것은 특정 국가가 아니라 세계가 힘을 합쳐야 가능한 것"이라고 강조했다.

마지막으로 로버트 트래거 교수는 "전세계가 AI 발전을 위해 협력해서 합법적인 국제 표준을 개발해야 한다. 그 이후에는 표준을 채택하고, 그 표준을 지키도록 글로벌 차원에서 인센티브를 제공해야 할 것"이라며 "예를 들어 특정 국가가 국제 표준을 위반하면 그 나라에 한해 시장을 폐쇄하는 등 조처하는 방식"이라고 조언했다.