입력창과 파일 첨부도 외부 처리 통로다
일반적인 온라인 생성형 AI에 입력한 문장, 첨부파일, 화면 이미지는 서비스 제공자의 시스템으로 전송될 수 있습니다. 대화 기록 보관, 모델 개선 사용, 관리자의 열람, 처리 위치와 삭제 방식은 서비스와 계약 설정에 따라 다릅니다.
따라서 이름만 지우고 환자 사례를 넣는 방식은 안전 기준이 될 수 없습니다. 날짜, 지역, 희귀질환, 검사 결과, 직업과 사건이 결합되면 특정인을 추정할 수 있으므로 직접 식별자와 간접 식별자를 함께 봅니다.
업무를 허용·검토·금지 세 단계로 분류한다
직원 개인의 판단에 맡기지 말고 사용 가능한 서비스와 업무 범위를 한 페이지로 정합니다. 공개 자료 요약, 환자와 무관한 문서 서식, 가상의 예시처럼 개인정보 없이 수행할 수 있는 업무부터 시작합니다.
실제 환자정보가 조금이라도 필요한 업무는 조직이 승인한 별도 환경과 계약, 적법근거, 안전조치 검토 없이는 일반 AI에 넣지 않는 것을 기본값으로 둡니다. 개인정보위의 2025년 생성형 AI 안내서도 목적 설정, 최소처리, 안전조치와 거버넌스를 생애주기 전반에서 검토하도록 안내합니다.
- 허용: 공개자료 요약, 빈 서식, 가상 시나리오
- 사전 검토: 내부정보·계약자료·승인된 비식별 데이터
- 금지: 환자 식별정보, 진료기록, 영상, 검사결과
- 금지: 환자 화면 캡처와 원본 파일 업로드
- 의료적 판단이나 환자별 권고를 AI 출력만으로 결정하지 않기
비식별화 전에 입력 자체가 필요한지 묻는다
가장 안전한 방법은 업무에 필요하지 않은 환자정보를 보내지 않는 것입니다. 원문 없이 질문을 일반화할 수 있는지, 빈 템플릿으로 해결할 수 있는지, 공개된 공식 자료만으로 답을 만들 수 있는지 먼저 확인합니다.
데이터 활용이 꼭 필요하더라도 이름과 연락처를 지우는 것만으로 익명화가 끝나지 않습니다. 재식별 가능성, 결합 가능한 정보, 표본의 희소성과 목적에 필요한 최소 범위를 별도로 검토해야 하며 직원이 즉석에서 판단하지 않게 합니다.
- 환자 사례 없이 질문을 일반화할 수 있는가
- 날짜·지역·나이·직업 조합이 식별 단서가 되는가
- 희귀한 사건과 검사 결과가 필요한가
- 더 적은 정보나 가상 데이터로 대체할 수 있는가
- 승인자와 검토 결과가 기록되었는가
서비스 설정과 계약을 화면에서 직접 확인한다
‘기업용’이나 ‘보안’이라는 표현만 믿지 않고 입력 데이터의 학습 사용 여부, 보관기간, 삭제 방법, 관리자 기능, 접속기록, 재위탁, 처리 위치와 사고 통지 조건을 확인합니다. 무료 계정과 조직 계정의 정책이 다를 수 있습니다.
개인정보위가 2026년에 발간한 생성형 AI 이용자 가이드도 대화 기록과 학습 활용 여부, 삭제 등 개인정보 관리 기능을 이용자가 확인하도록 안내합니다. 서비스 설정을 변경했다면 확인일과 화면 또는 공식 문서 위치를 내부 기록에 남깁니다.
- 입력·출력의 모델 학습 사용 여부
- 대화·파일 보관기간과 일괄 삭제 기능
- 조직 관리자 계정과 사용자 퇴사 처리
- 다중인증·접속기록·권한 관리
- 국외 처리·재위탁·사고 통지 조건
결과는 초안으로 취급하고 원문과 대조한다
생성형 AI는 그럴듯하지만 존재하지 않는 근거, 오래된 규정과 잘못된 수치를 만들 수 있습니다. 환자 안내, 행정 절차, 계약 또는 규정 관련 결과는 담당자가 공식 원문과 최신 날짜를 확인한 뒤 사용합니다.
검토자는 문장 표현만 다듬지 말고 사실, 출처, 누락, 과도한 확신과 편향을 확인합니다. 의료적 판단과 환자별 의사결정은 해당 전문 인력이 책임지며 AI 출력이 판단 과정을 대신하지 않도록 합니다.
- 모든 숫자·날짜·법령의 원문 확인
- 출처가 실제 문장을 뒷받침하는지 확인
- 환자에게 오해를 줄 단정 표현 수정
- 최종 검토자와 사용일 기록
- 중요 문서는 AI 없이도 재현 가능한 근거 보관
오입력 사고와 도구 변경에 대비한다
직원이 환자정보를 잘못 입력했을 때 대화를 지우는 것만으로 처리가 끝난다고 단정할 수 없습니다. 즉시 내부 담당자에게 보고하고 서비스의 삭제·지원 절차, 입력 범위, 계정과 공유 여부를 확인합니다.
AI 서비스 정책과 기능은 자주 바뀔 수 있으므로 분기마다 허용 도구, 설정, 계약, 사용자 계정과 실제 사용 사례를 검토합니다. 새 기능이 자동으로 켜지거나 파일 연결 권한이 추가되지 않았는지도 확인합니다.