AI가 쓴 자기소개서, 걸러낼 수 있나요
자기소개서 마스터·8분·
AI로 썼는지를 판정해 주는 채용용 검증 도구는 실재가 확인되지 않습니다. 법이 정해 둔 것은 작성 도구를 잡아내는 쪽이 아니라, 기계가 내린 결정을 거부하고 설명을 요구할 수 있는 권리 쪽입니다.
개인정보 보호법 제37조의2(자동화된 결정에 대한 정보주체의 권리 등) — 2024년 3월 15일 시행
이미 작동한다고 알려진 것
- AI 자소서를 잡아내는 검증 시스템이 돌아가고 있다
- 탐지 결과가 나오면 그것으로 탈락이 정해진다
- 탐지 정확도가 몇 퍼센트인지 공개되어 있다
- AI로 작성하는 것 자체가 법으로 금지되어 있다
- 기계가 평가하는 전형에는 아무 규제가 없다
확인되는 데까지
- 채용용 작성 판정 도구는 실재를 확인하지 못했다
- 검색에 걸리는 것은 대부분 작성 대행 서비스 홍보다
- 정확도 수치를 뒷받침하는 조사 주체가 확인되지 않는다
- 작성 도구를 제한한 법령은 없고 제한하는 것은 공고다
- 자동화된 결정에 거부권과 설명요구권을 정한 조문이 있다
걸러낸다는 말이 두 가지를 섞고 있습니다
작성 도구를 알아내는 일과 기계가 평가하는 일은 전혀 다른 문제입니다. 둘을 붙여 놓으면 어느 쪽도 답이 나오지 않습니다.
질문을 받아 보면 대개 두 장면이 한 덩어리로 묶여 있습니다. 하나는 제출된 원고가 생성형 도구로 만들어졌는지를 채용하는 쪽이 알아낸다는 장면이고, 다른 하나는 제출된 원고를 기계가 읽고 점수를 매긴다는 장면입니다. 뒤엣것은 실제로 벌어지고 있고 앞엣것은 근거가 다릅니다.
두 장면을 갈라 놓아야 하는 이유는 확인할 수 있는 것이 서로 다르기 때문입니다. 평가에 기계가 관여하는지는 채용하는 쪽이 공개하는 절차 안내에서 어느 정도 드러나고, 무엇보다 그 상황을 겨눈 조문이 따로 있습니다. 반대로 작성 도구를 알아낸다는 쪽은 그것을 하는 장치가 무엇인지부터 짚이지 않습니다.
그런데도 두 장면이 붙어 다니는 것은 시기가 겹쳤기 때문입니다. 생성형 도구가 널리 퍼진 시점과 채용 실무에 기계 판독이 들어온 시점이 가까워, 한쪽에서 들은 이야기가 다른 쪽 설명으로 옮겨 붙습니다.
그래서 이 글은 순서를 뒤집습니다. 먼저 작성 판정이라는 것이 실제로 있는지 확인하고, 그다음에 기계가 관여하는 결정에 법이 무엇을 정해 두었는지를 봅니다. 마지막으로 실제로 불이익이 생기는 자리를 짚습니다.
작성 여부를 판정한다는 도구를 찾을 수 없습니다
채용 절차에서 AI 작성 여부를 가려낸다는 검증 도구는 실재를 확인하지 못했습니다.
같은 물음을 다른 문서 영역에서도 조사한 적이 있는데 결과가 같았습니다. 검색으로 걸리는 것은 판정 도구가 아니라 대부분 작성을 대신해 준다는 서비스의 홍보 문서였고, 그 문서들이 판정의 위험을 앞세워 자기 상품을 권하는 구조였습니다.
일반 목적의 문장 탐지 서비스가 없다는 뜻은 아닙니다. 다만 그것이 채용 절차에 붙어 지원자를 가른다는 근거는 별개의 문제이고, 그 연결을 확인해 주는 자료가 나오지 않습니다. 아래 표는 이 물음을 검색했을 때 실제로 걸리는 것들과 그 성격입니다.
| 검색에 걸리는 것 | 실제 성격 | 판정 근거가 되나 |
|---|---|---|
| AI 자소서 걸러낸다는 기사 제목 | 우려를 전하는 기사 | 근거로 삼기 어렵습니다 |
| 탐지 서비스 소개 페이지 | 일반 문장 대상 서비스 | 채용 적용 여부가 별개입니다 |
| 작성 대행 서비스 안내 | 상품 홍보 | 판정 도구가 아닙니다 |
| 커뮤니티의 탈락 후기 | 개인 경험담 | 원인이 확인되지 않습니다 |
| 채용공고의 사용 제한 문구 | 그 전형의 조건 | 공고 조건으로는 작동합니다 |
마지막 줄만 성격이 다릅니다. 공고에 생성형 도구 사용을 제한한다는 문구가 들어 있으면 그것은 그 전형에서 지켜야 할 조건이 되고, 어겼을 때 문제되는 것은 법 위반이 아니라 전형 조건 위반입니다. 앞의 네 줄은 그 자체로 지원자에게 무엇을 하지도 못합니다.
정확도를 말하는 숫자를 만나면 한 번 더 멈추십시오. 몇 퍼센트라는 값이 여러 갈래로 돌아다니지만 조사 주체와 표본을 밝힌 것이 없습니다. 값끼리도 크게 어긋나 있어 어느 하나를 골라 쓰는 것 자체가 위험합니다.
그러니 여기서 사실로 남는 것은 하나입니다. 판정된다는 전제를 깔고 대비하는 것이 아니라, 판정한다는 장치가 확인되지 않는다는 상태에서 시작해야 한다는 것입니다.
기계가 평가에 관여할 때 법이 닿는 자리
규제가 없는 영역이 아닙니다. 다만 법이 겨누는 것은 작성 도구가 아니라 결정 쪽입니다.
개인정보 보호법에 완전히 자동화된 시스템이 내린 결정을 다루는 조문이 신설되어 2024년 3월 15일부터 시행되고 있습니다. 인공지능 기술을 적용한 시스템이 조문 안에 명시되어 있고, 직원 채용은 이 조문의 대표적인 적용 사례로 거론됩니다.
조문이 정한 것은 세 가지입니다. 거부할 수 있는 권리, 설명을 요구할 수 있는 권리, 그리고 그런 요구가 있을 때 처리자가 해야 하는 조치입니다.
① 정보주체는 완전히 자동화된 시스템(인공지능 기술을 적용한 시스템을 포함한다)으로 개인정보를 처리하여 이루어지는 결정이 자신의 권리 또는 의무에 중대한 영향을 미치는 경우에는 해당 결정을 거부할 수 있는 권리를 가진다. ② 정보주체는 개인정보처리자가 자동화된 결정을 한 경우에는 그 결정에 대하여 설명 등을 요구할 수 있다. ③ 개인정보처리자는 정보주체가 거부하거나 설명 등을 요구한 경우에는 정당한 사유가 없는 한 자동화된 결정을 적용하지 아니하거나 인적 개입에 의한 재처리·설명 등 필요한 조치를 하여야 한다.
「개인정보 보호법」 제37조의2(자동화된 결정에 대한 정보주체의 권리 등) 제1항 본문·제2항·제3항
다만 제1항에는 단서가 붙어 있어 일정한 경우에는 거부권이 미치지 않습니다. 채용 절차가 그 단서에 걸리는지는 확정되지 않았으므로, 서류전형을 언제나 거부할 수 있다고 읽으면 안 됩니다. 지금 확실한 것은 거부권과 설명요구권을 정한 조문이 존재한다는 사실까지입니다.
조문은 또 하나를 요구합니다. 자동화된 결정의 기준과 절차, 개인정보를 어떤 방식으로 처리하는지를 정보주체가 쉽게 확인할 수 있도록 공개하라는 것입니다. 채용하는 쪽이 기계 판독을 쓰고 있다면 그 사실이 어딘가 드러나 있어야 한다는 뜻이 됩니다.
이 조문의 방향을 보면 앞 절의 결론이 더 분명해집니다. 법은 무엇으로 썼는지를 캐묻는 자리에 서 있지 않고, 기계가 사람을 가를 때 그 사람에게 무엇을 남겨 줄 것인가를 정하고 있습니다.
그래서 실제로 불이익이 생기는 자리
판정이 아니라 대조에서 갈립니다. 원고 바깥의 자료와 맞춰 볼 때 어긋나는 것이 드러납니다.
도구를 써서 만든 원고가 문제를 일으키는 경로는 세 갈래로 좁혀집니다. 첫째는 공고가 사용을 제한했는데 그것을 읽지 않은 경우, 둘째는 원고에 적힌 내용이 다른 서류나 실제 경력과 맞지 않는 경우, 셋째는 면접에서 원고를 근거로 되물었을 때 답이 이어지지 않는 경우입니다.
세 갈래 모두 작성 도구를 알아낸 결과가 아닙니다. 앞엣것은 조건을 지켰는지의 문제이고 나머지 둘은 내용이 사실인지의 문제입니다. 다시 말해 불이익은 도구를 썼다는 사실에서 오는 것이 아니라 도구가 채워 넣은 내용에서 옵니다.
특히 두 번째 경로가 조용하고 깊습니다. 도구는 지원자가 알려 주지 않은 사실을 모르기 때문에 빈자리를 그럴듯한 문장으로 메웁니다. 그 문장이 이력서의 기간이나 직무와 어긋나면 문서 사이의 불일치로 남고, 이것은 판정 없이도 눈에 띕니다.
세 번째 경로는 시점이 늦어 되돌리기 어렵습니다. 서류가 통과한 뒤에야 드러나므로 그때는 고쳐 낼 기회가 없습니다. 그래서 대비는 제출 전에 끝나 있어야 합니다.
사용을 제한한 문구가 없다면 그 전형에서 조건 위반이 되지는 않습니다. 다만 내용이 사실인지는 그와 별개로 남습니다.
채용 결과의 근거를 요구할 수 있는지는 자동화된 결정에 관한 조문 쪽에서 다뤄집니다. 탐지 결과 자체가 확정적 증거로 다뤄지지 않는다는 것이 일반적인 평가입니다.
쓰임을 나누는 편이 낫습니다. 표현을 다듬는 데 쓰는 것과 없는 사실을 만들어 내게 하는 것은 위험이 전혀 다릅니다.
제출 전에 확인할 수 있는 것
판정을 걱정하는 대신 확인할 수 있는 것을 확인해 두는 편이 빠릅니다.
- 공고에서 사용 제한 문구 찾기지원 자격이나 유의사항 항목을 봅니다. 생성형 도구 사용을 제한한다는 문구가 있으면 그것이 그 전형의 조건입니다.
- 절차 안내에 기계 판독 언급이 있는지 보기전형 방법 안내에 자동 심사나 인공지능 활용이 적혀 있는지 확인합니다. 적혀 있다면 결정에 기계가 관여한다는 뜻입니다.
- 원고의 사실을 이력서와 맞춰 보기기간·직무·조직 이름을 한 줄씩 대조합니다. 도구가 메운 자리는 대개 여기서 어긋납니다.
- 확인되지 않는 수치 지우기출처를 댈 수 없는 숫자는 그대로 두지 않습니다. 면접에서 되물으면 답할 수 없는 자리입니다.
- 소리 내어 한 번 읽기읽다가 자기 일이 아닌 것 같은 문장이 걸리면 그 문장이 손봐야 할 자리입니다.
세 번째와 네 번째가 실제로 값을 합니다. 앞의 두 단계는 확인으로 끝나지만 이 두 단계는 원고를 바꾸는 작업이고, 앞 절에서 본 세 갈래 가운데 두 갈래를 여기서 막습니다.
다섯 번째를 생략하지 마십시오. 눈으로 읽으면 넘어가는 문장이 소리로 읽으면 걸립니다. 도구가 만든 문장은 대체로 매끄러워서 걸리는 지점이 뜻이 아니라 리듬에서 나타납니다.
자주 묻는 질문
AI로 쓴 자소서를 걸러내는 시스템이 있나요?
채용 절차에서 작성 도구를 판정한다는 검증 도구는 실재를 확인하지 못했습니다. 검색에 걸리는 것은 대부분 작성 대행 서비스의 홍보 문서입니다.
AI로 자소서를 쓰면 법 위반인가요?
작성 도구를 제한한 법령은 확인되지 않습니다. 채용공고가 사용을 제한했다면 그것은 법 위반이 아니라 그 전형의 조건을 어긴 것입니다.
AI가 평가하는 전형은 규제가 없나요?
그렇지 않습니다. 개인정보 보호법 제37조의2가 2024년 3월 15일부터 시행되어 자동화된 결정에 대한 거부권과 설명요구권을 정하고 있습니다.
그러면 AI 서류전형을 거부할 수 있나요?
단정할 수 없습니다. 조문 제1항에는 단서가 있고 채용이 거기에 해당하는지는 확정되지 않았습니다. 권리를 정한 조문이 있다는 데까지가 확실합니다.
탐지기 정확도가 높다던데요?
여러 값이 돌아다니지만 조사 주체와 표본이 밝혀진 것이 없고 값끼리도 어긋납니다. 판정을 확정적 증거로 다루지 않는 것이 일반적인 권고입니다.
그래도 대비는 해야 하지 않나요?
대비할 자리는 판정이 아니라 대조입니다. 원고의 사실을 이력서와 맞추고 확인되지 않는 수치를 지우는 것이 실제로 값을 합니다.




