"같은 단어를 끝없이 반복해 달라." 이 단순한 요청에 ChatGPT는 'poem'이라는 단어를 한동안 되풀이하다가, 어느 순간 실존 인물의 이메일 주소와 전화번호를 비롯해 수 메가바이트 분량의 학습 데이터를 원문 그대로 출력했다. 2023년 구글 딥마인드 등 공동 연구진이 공개한 이 실험은 AI가 학습 데이터를 내부에 원문에 가까운 형태로 기억하고 있을 가능성을 시사한다. 2026년 8월 국회를 통과한 개인정보보호법 개정안은 적법하게 수집한 개인정보를 AI 개발에 활용할 수 있도록 특례를 마련했다. 가명처리나 익명처리만으로 개발 목적을 달성하기 어려운 경우에 한해 활용을 허용하되, 충분한 안전장치를 갖추도록 한 것이 핵심이다. 다만 기술의 관。에서 보면 개인정보 보호의 무게중심을 데이터 처리 단계에만 둘 수는 없다. 학습된 AI 역시 보호의 대상으로 함께 살펴볼 필요가 있다. AI는 데이터를 참고해 만들어진 결과물에 그치는 것이 아니라, 학습 데이터의 일부를 매개변수 속에 기억하는 저장소로도 작동하기 때문이다. 실제로 AI의 기억 저장소를 겨냥한 공격도 존재한다. 파칭코게임다운로드 '멤버십 추론 공격'(Membership Inference Attack)은 AI의 답변 차이를 분석해 특정인의 데이터가 학습 과정에 포함됐는지를 판별한다. 예컨대 특정 질환자의 기록으로 학습한 AI라면, 그 사람이 학습 데이터에 포함됐다는 사실만으로도 민감한 정보가 유출될 수 있다. 이 외에 학습 데이터의 특징이나 원문을 추출하는 '모델 복원 공격'(Model Inversion Attack), 출력 결과를 반복적으로 수집해 AI 자체를 복제하거나 유사한 AI를 만들어내는 '모델 추출 공격'(Model Extraction Attack)도 존재한다. 이러한 공격의 성공률은 AI의 규모가 커질수록, 같은 데이터가 반복해서 등장할수록 증가하는 것으로 알려져 있다. 유럽연합(EU)은 이 지.에 주목하고 있다. 유럽정보보호회의(EDPB)는 2024년 의견에서 개인정보로 학습한 AI를 익명으로 간주하려면, AI에서 개인정보가 직접 추출되거나 질의를 통해 드러날 가능성이 무시할 만한 수준임을 입증할 수 있어야 한다고 밝혔다. 중요한 것은 데이터를 학습 전에 어떻게 처리했는지만이 아니다. 황금성 릴게임 학습된 AI 자체가 개인정보를 얼마나 남기고 있는지, 그리고 실제 공격에 얼마나 견딜 수 있는지를 함께 보겠다는 접근이다. 개인정보 위험은 하나의 데이터셋 안에서만 발생하지 않는다. 과거 넷플릭스가 공개한 익명화된 영화 평가 기록을 다른 영화 평。 사이트 IMDb의 공개 정보와 결합해 일부 이용자를 재식별한 사례처럼, 각각의 정보만 놓고 보면 익명으로 보이더라도 서로 다른 정보가 결합되는 순간 개인을 다시 식별할 가능성이 생긴다. 개인정보 보호를 위해서는 개별 데이터의 처리 방식뿐 아니라, AI 내의 다른 정보와의 결합 가능성까지 함께 고려해야 한다. 개정법은 구체적인 안전장치의 내용을 시행령에 맡기고 있다. 따라서 특례 심의와 실제 시행 과정에서는 학습 데이터의 처리 방식뿐 아니라, 학습된 AI가 개인정보를 얼마나 남기고 있는지도 확인할 필요가 있다. 이를 위해 추출·추론 공격 시험을 도입하고, AI 추가 학습 이후에도 위험 수준을 주기적으로 .검하는 체계를 갖춰야 한다. 이제는 개인정보를 안전하게 처리하는 기술을 넘어, 이를 기억하고 있는 AI 자체를 어떻게 관리할 것인지에 대한 제도까지 함께 마련해야 할 시。이다. 김호기 교수(중앙대 산업보안학과) g>