김영배 더불어민주당 의원. /사진제공=김영배 의원실

최근 국회에서 챗GPT(ChatGPT)를 활용한 법안이 국내 최초로 발의됐다. AI(인공지능) 기업의 알고리즘으로 개인정보가 유출된 경우 개인정보보호위원회가 해당 알고리즘을 제출받아 시정사항이 있는지 확인할 수 있도록 하는 것을 뼈대로 하는 개인정보보호법 개정안이 그것이다. 이 법안은 챗GPT가 직접 내놓은 답변을 바탕으로 법안 내용을 만들었다는 점에서 주목받고 있다.

실제로 법안을 만드는 과정에서 챗GPT는 AI로 인한 사회적 위험을 묻는 김 의원의 질문에 △일자리 위협 △데이터 프라이버시 위협 △불공정한 결정 등을 꼽았다. 챗GPT는 또한 개인정보 유출을 막기 위해서는 개인정보보호법을 개정해 AI 규제를 강화해야 한다고 진단했다.

이 법안은 발의 자체로 우리 사회에 여러 질문을 던진다. AI 부작용을 막기 위해 정부가 직접 알고리즘을 점검해야 한다는 요구는 챗GPT의 시대에도 여전히 무리한 주장일까. 챗GPT는 국회의원을 대체할 수 있을까. 머니투데이 the300은 지난달 28일 국회에서 김영배 의원과 해당 법안에 대해 이야기를 나눴다.

-챗GPT를 이용한 법안 발의 사례는 국내 최초다. 발의 계기는.
▶21대 국회 당시 행정안전위원회 소속이었다. 개인정보보호와 공공 웹사이트의 보안성 문제에 국정감사 때 집중 질의한 적이 있었다. 이후 나도, 보좌진들도 개인정보 보호 이슈에 계속 관심을 가져왔다. 최근 챗GPT가 화두로 떠올랐는데 정작 기술과 산업적 파급 효과에 대해서만 논의가 될 뿐 AI 윤리 등 사회에 미칠 영향에 대해서는 깊이 있는 논의가 부족했다. 챗GPT에게 직접 문제와 해결방안을 물어보고 법안으로 발의하자는 것은 우리 보좌진 아이디어였다.

기술의 진화로 일상 속 모든 활동이 데이터화되고 있다. 물건 구매 목록부터 하루 평균 심장 박동수까지 어디엔가 기록되고 있다. AI 시대엔 개인의 데이터는 기업에 있어 자본이자 자산이다. 만약 기업이 알고리즘 등을 이용해 내 데이터를 다른 곳에 활용한다면 어떻게 할 것인가. 부작용을 막기 위한 최소한의 견제 장치는 있어야 하지 않을까.

AI로 인한 개인정보 유출 방지를 위한 방안을 묻는 질문에 챗GPT의 답변./사진제공=김영배 의원실

-기업 '영업 기밀'인 알고리즘을 정부가 직접 제출받도록 하는 건 무리한 요구라는 지적이 있다. 어떻게 생각하는가.
▶물론 알고리즘은 영업 기밀에 해당할 수 있다. 하지만 챗GPT를 보더라도 꽤 성숙한 정보처리 능력을 보여주고 있다. 앞으로는 인간의 중요한 의사결정 영역 곳곳에 AI가 더욱 깊숙이 파고들 것이다.

이런 상황에서 영업 기밀을 모두 지켜줘야 하는지는 고민해볼 필요가 있다. 국가는 헌법 정신에 따라 개인정보 등 국민 인권을 지켜줘야 한다. 이는 영업기밀이나 특허의 영역보다 더 큰 사회 질서와 가치의 문제다. 또한 정부가 아무 때나 알고리즘을 제출받을 수 있는 것도 아니다. 사회적 부작용이 큰 경우로 제한했기 때문이다. 앞으로 관련 산업이 공정한 시장경제 원리에 따라 성장하기 위해서라도 기본적인 제도 틀은 필요하다고 생각한다.

-다른 법에도 불법 촬영물이나 개인정보 등을 유통할 경우 처벌할 수 있다는 규정이 있다. 타 법과 충돌 가능성이 있다는 지적이 있는데.
▶이 법은 다른 법과 달리 알고리즘에 집중한다. 알고리즘에 대해서는 현재는 자율규제가 원칙이다. 기업이 알고리즘에 대한 설명을 정부에 제출하더라도 정부 입장에선 그 설명이 진짜 맞는지 확인할 길이 없다. 앞서 말했듯 이것은 인권의 문제다. 정부가 기업의 설명에 의존할 것이 아니라 직접 알고리즘을 점검해보는 것도 필요하다.

-향후 논의 과정에서 기업에 대한 처벌 수위도 논의하게 될 것 같다. 처벌 수위는 어느 정도여야 한다고 보나.
▶정보통신망법 등의 유사한 규정을 참고해야 하지 않을까 싶다. 다만 이 법은 처벌을 목적으로 만든 것은 아니다. 알고리즘도 사회적 견제가 필요하다는 논의를 이끌어 알고리즘에 대한 견제 장치를 마련하는 데 의의를 두고 있다.

-국회의원의 의정활동에서 챗GPT의 역할은 무엇이라고 보나. 언젠가는 국회의원도 챗GPT가 대체할 수 있지 않을까.
▶챗GPT는 짧은 시간 내에 방대한 데이터를 수집·요약해 의사결정을 위한 참고자료를 만들어낸다. 챗GPT는 비유하면 탁월한 보좌진이다. 국회의원의 역할 중 하나는 여러 이해관계자 간 의견을 조율하고 타협을 끌어내는 것이다. 챗GPT가 그런 일까지 할 수 있을지는 회의적이다. 민주주의는 결국 사람이 만드는 것이다. 챗GPT는 민주주의 가치를 지향하기 위한 도구일지는 몰라도 그 자체가 목적이 될 수는 없다.

김영배 더불어민주당 의원. /사진제공=김영배 의원실