챗PGT 같은 대규모 언어모델(LLM) 기반의 인공지능(AI)이 데이터를 학습할 때 주민등록번호 같은 주요 식별정보를 제거하는 조치가 미흡하다는 조사 결과가 나왔다고 KBS 한국방송 신지수 기자가 전했다.

방송 보도에 따르면 개인정보보호위원회는 지난해 11월부터 지난 1월까지 약 3개월 동안 오픈AI와 구글, 네이버 등 6개 사업자가 제공하는 LLM 기반의 AI 서비스에 대한 사전 실태점검을 했다.

이들 서비스는 인터넷에 공개된 데이터를 수집해 AI 모델 학습 데이터로 사용하는데, 이 과정에서 주민등록번호, 신용카드 번호 같은 중요한 개인정보가 포함될 가능성이 있는 것으로 조사됐다.

개인정보위 조사 결과에 따르면 오픈AI와 구글, 메타는 개인정보가 많이 포함된 사이트는 AI 모델 학습에서 배제하고 있지만, 그 외 사이트에 포함된 주요 식별정보에 대한 제거 조치는 미흡한 것으로 파악됐다.

우리가 무심코 웹사이트에 개인정보를 올리면, 그 정보를 AI가 학습할 가능성이 있기 때문이다.

실제로 지난해 말 기준 2만 999개 페이지에 주민번호와 여권번호 등 민감한 개인정보가 노출돼있는 상황이라고 개인정보위는 밝혔다.

또, 이용자들은 자신의 정보가 AI 학습에 활용되지 않도록 막는 기능을 사이트에서 찾기 어렵고, AI 기능 개선을 위해 인력이 투입되고 있는 점도 제대로 고지되지 않고 있는 것으로 조사됐다.

업체들은 AI 모델이 정확한 답변을 하도록 다수의 인력을 투입하고 있는데, 이 과정에서 이용자들의 개인정보가 노출될 가능성이 있는데도 인력이 투입되고 있는 사실을 명확하게 알리지 않고 있던 ㄱ서이다.

개인정보위는 사전 학습 단계에서 주요 식별정보가 제거될 수 있도록 개인정보가 노출돼있는 2만여 개의 URL을 해당 사업자에게 제공해 학습에서 배제할 계획이다.

또 업체들이 AI 모델을 개선할 목적으로 이용자가 입력한 데이터에 대한 인적 검토를 할 경우, 사전에 식별정보를 제거하고 이용자에게 관련 사실을 명확히 고지하고, 이용자가 입력 데이터를 손쉽게 삭제할 수 있도록 접근성을 제고할 것을 권고했다.

[사진 = KBS 뉴스 화면 캡처]