‘AI 시대’ 사이버 보안 우려↑…“기술 연구로 방어 역량 강화해야”

아만다 워커 구글 보안 및 개인정보보호 연구 개발 총괄이 18일 JW 메리어트호텔 서울에서 열린 '2024 세이퍼 위드 구글' 미디어 세션에 참석해 발표하고 있다./제공=구글 코리아

최근 AI 기술 발전과 함께 사이버 보안 및 안정성에 대한 우려도 함께 커지고 있다. 이에 전문가들은 "AI 기술 연구로 방어 역량을 강화하고 보안 기술에 대한 투자를 병행해 안전한 AI 환경을 조성해야 한다"고 조언한다.

18일 구글 트렌드 검색어 분석 자료에 따르면 한국은 2023년 '피싱, '멀웨어', '랜섬웨어' 키워드를 각각 가장 많이 검색한 국가다. 지난 해 전세계에서 '사기(fraud)'를 가장 많이 검색한 상위 10개 국가에도 포함됐다.

보안 관련 주제에 대한 검색 관심도가 13년 만에 최고치를 기록하는 등 사이버 보안에 대한 관심이 커진 가운데 구글코리아는 안전한 온라인 환경을 만들기 위해 학계 및 업계 전문가들 간 토론의 장을 제공하는 '세이퍼 위드 구글' 행사를 개최했다.

이날 행사에서 김경훈 구글코리아 사장은 "구글은 책임감 있는 AI 개발을 위해 최선을 다하고 있으며, 안전하고 지속 가능한 인터넷 환경 구축을 위해서는 AI 생태계 구성원 모두의 협력이 필수적"이라고 강조했다.

또 "구글은 이번 행사 외에도 'AI 스타트업 스쿨 위드 서울' 프로그램, '구글닷오알지(Google.org)'의 사이버보안 교육 프로그램 등 다양한 활동을 통해 사이버 위협 해소에 적극적으로 나서고 있다"며 "앞으로도 구글은 AI를 통해 모두에게 더 나은 미래를 만들어가기 위해 최선을 다하며, 이번 행사가 AI의 안전한 활용과 AI 보안 기술 발전을 위한 의미 있는 논의의 장이 되기를 기대한다"고 밝혔다.

아만다 워커 구글 보안 및 개인정보보호 연구 개발 총괄은 "공격은 단 한 번의 성공으로 충분하지만, 방어의 경우 모든 순간이 중요하며 끊임없는 경계와 완벽함을 요구한다는 점이 바로 '방어자의 딜레마(Defender's Dilemma)'"라고 말했다. 이어 "AI 기술은 이러한 딜레마를 해결하고 오히려 '방어자의 이점(Defender's Advantage)'을 확보할 수 있는 기회를 제공한다"며 "AI 기술 연구로 방어 역량을 강화하고 보안 기술 및 교육 투자를 병행함으로써 더욱 안전하며 책임감 있는 AI 활용 환경을 조성할 수 있을 것"이라고 강조했다.

한편 구글은 2018년 'AI 원칙'을 발표하며 AI 개발과 활용에 대한 명확한 기준을 제시하고, 개발, 테스트, 제품 적용 전 과정에서 이를 준수해 왔다. 특히 AI 기술을 제품에 적용할 때는 이용자 보호를 최우선으로 고려하고 있다.

AI 기술을 접목한 지메일은 매일 전세계 1억 개의 피싱 메일을 차단하고 있으며 크롬은 매일 50억 대의 기기를 보호하고 있다. 또 구글은 지난 5월 한국에서 열린 'AI 서울 정상회의(AI Seoul Summit)' 및 'AI글로벌 포럼'에 참여한 바 있다.