컴퓨터 언어학 - AI는 왜 거짓말하고, 편견을 갖는가

 

 

Computational Linguistics · Part 4-2

Challenges & Ethics — The Unresolved Questions

AI는 왜 거짓말하고,
편견을 갖는가

컴퓨터 언어학이 직면한 과제와 윤리

 

MisoEnglish · Michelle Kim Series #CL-09 읽는 시간 약 12분

"These models are like a brilliant friend who happens to have the knowledge of a doctor, lawyer, or financial advisor—but who sometimes confidently states things that are simply not true."

— AI 연구자들의 LLM 평가
의사·변호사·금융 전문가의 지식을 가진 똑똑한 친구 같지만, 때로 아무렇지 않게 사실이 아닌 것을 자신 있게 말한다—이것이 AI 언어 모델의 딜레마입니다.

지금까지 우리는 컴퓨터 언어학이 어떻게 발전해 왔는지를 따라왔습니다. 하지만 기술의 발전이 곧 문제의 해결을 의미하지는 않습니다. 오히려 LLM이 강력해질수록, 그 실패가 더 정교하고 더 위험해집니다.

이번 편에서는 현재 AI 언어 모델이 직면한 세 가지 근본적 과제— 언어의 모호성, 편향, 할루시네이션—과 이를 둘러싼 윤리적 질문들을 살펴봅니다.

01  언어의 모호성 — Ambiguity, the Eternal Challenge

CL-01에서 처음 만났던 중의성(Ambiguity) 문제는 트랜스포머가 등장한 지금도 완전히 해결되지 않았습니다. 언어의 모호성은 세 층위에서 존재합니다.

① 어휘적 모호성 Lexical Ambiguity

하나의 단어가 여러 의미를 가질 때. 문맥으로 대부분 해결되지만 항상 그렇지는 않습니다.

"그 배가 아프다." → 선박(船)? 배(腹)? 배(梨)?
한국어 동음이의어는 AI 번역의 빈번한 실수 지점입니다.

② 구조적 모호성 Structural Ambiguity

동일한 문장이 두 가지 이상의 구문 구조로 해석될 때.

"나는 망원경으로 언덕 위의 남자를 봤다."
→ 내가 망원경으로 봤다? 남자가 망원경을 갖고 있다?

③ 화용적 모호성 Pragmatic Ambiguity

발화의 의도가 맥락 없이는 파악되지 않을 때. AI가 가장 취약한 층위입니다.

"오늘 발표 잘 하셨네요." (격려? 빈정거림?)
→ 억양, 표정, 관계, 상황이 없으면 판단 불가.

02  AI의 편향 — Bias in Language Models

LLM은 인터넷의 텍스트를 학습합니다. 그런데 인터넷은 세상의 모든 목소리를 균등하게 담고 있지 않습니다. 데이터의 편향은 곧 모델의 편향이 됩니다.

성별 편향 Gender Bias

"간호사"를 여성으로, "엔지니어"를 남성으로 연결하는 경향. 학습 데이터 속 사회적 편견을 그대로 흡수한 결과입니다.

문화·언어 편향 Cultural Bias

학습 데이터의 대부분이 영어·서구 중심. 비서구권 문화, 소수 언어의 관점이 과소 반영됩니다.

확증 편향 Confirmation Bias

사용자가 원하는 답을 말하려는 경향(sycophancy). "내 생각이 맞죠?"에 쉽게 동의합니다.

시간적 편향 Temporal Bias

학습 데이터의 마감일(knowledge cutoff) 이후 사건은 알지 못합니다. 과거의 세계관을 현재에 투영합니다.

편향은 단순한 기술 문제가 아닙니다. AI가 채용, 대출 심사, 의료 진단 보조에 활용될 때 편향된 모델은 사회적 불평등을 자동화하고 증폭시킬 수 있습니다.

03  할루시네이션 — When AI Confidently Lies

AI 언어 모델의 가장 유명한 문제— 할루시네이션 (Hallucination)입니다. 존재하지 않는 논문을 인용하고, 없는 법률 판례를 만들어내고, 실제로 일어나지 않은 사건을 사실인 것처럼 서술합니다. 그리고 항상 자신감 있게.

왜 AI는 거짓말을 하는가 — 메커니즘 해설

원인 1

확률적 생성의 본질
LLM은 "사실"이 아니라 "그럴듯한 다음 토큰"을 예측합니다. 사실 여부를 검증하는 별도의 메커니즘이 없습니다.

원인 2

학습 데이터의 공백
질문에 대한 답이 학습 데이터에 없을 때, 모델은 "모른다"고 하는 대신 패턴을 조합해 그럴듯한 답을 만들어냅니다.

원인 3

RLHF의 역설
인간 평가자는 자신감 있고 유창한 답변에 높은 점수를 줍니다. 이 피드백으로 학습된 모델은 불확실한 상황에서도 확신에 찬 어조를 선호하게 됩니다.

할루시네이션의 유형

✦

가짜 인용 Fabricated Citations

실존하지 않는 논문·책·판례를 실제처럼 인용. 저자명·연도·제목까지 그럴듯하게 생성.

✦

사실 왜곡 Factual Distortion

실존 인물의 발언이나 역사적 사건을 부정확하게 서술. 핵심은 맞지만 세부 사항이 틀림.

✦

논리적 오류 Reasoning Errors

수학 계산, 논리 추론, 코드 로직에서 명백한 오류를 자신감 있게 제시.

04  윤리적 질문들 — The Bigger Picture

기술적 과제를 넘어, AI 언어 모델은 더 근본적인 윤리적 질문들을 제기합니다.

저작권과 창작물 소유권

수십억 개의 인간 창작물로 학습한 AI가 생성한 텍스트·이미지의 저작권은 누구에게 있는가? 원 창작자의 동의나 보상 없이 이루어진 학습은 공정한가?

정보의 진실성과 민주주의

설득력 있는 가짜 뉴스, 딥페이크 텍스트를 대규모로 생성할 수 있는 기술이 선거와 여론에 미치는 영향은 어떻게 관리해야 하는가?

노동과 직업의 미래

번역사, 카피라이터, 고객 상담원—AI가 대체하는 언어 직군의 종사자들에게 사회는 어떤 책임을 져야 하는가?

언어 다양성과 소수 언어

AI가 영어·중국어·스페인어 중심으로 발전하면, 소수 언어 사용자들은 AI 혜택에서 소외됩니다. 언어적 불평등이 디지털 불평등으로 이어지는 악순환을 어떻게 끊을 것인가?

현재 진행 중인 해결 노력

→

RAG (Retrieval-Augmented Generation) — 답변 생성 전 실시간 검색으로 사실 기반 강화. 할루시네이션 감소에 효과적.

→

Constitutional AI — Anthropic의 접근법. AI 스스로 윤리 원칙에 따라 자신의 답변을 검토·수정.

→

AI 규제 입법 — EU AI Act(2024), 각국 AI 거버넌스 논의. 고위험 AI 시스템에 대한 투명성·설명가능성 의무화.

→

AI 리터러시 교육 — AI의 한계를 이해하고 비판적으로 활용하는 능력 함양. 가장 근본적인 해법.

🔗 영어 학습자를 위한 연결고리

AI로 영어를 공부할 때 이 점을 꼭 기억하세요. AI가 제공하는 영어 표현, 문법 설명, 예문은 대부분 정확하지만 항상 옳지는 않습니다. 특히 한국어 특유의 표현을 영어로 옮기거나, 특정 문화권의 관용어를 설명할 때 할루시네이션이 발생하기 쉽습니다. AI를 영리한 초고(draft) 작성 도우미로 활용하되, 중요한 표현은 신뢰할 수 있는 사전이나 원어민의 확인을 거치는 습관이 중요합니다. AI를 잘 쓰는 사람은 AI를 맹신하지 않고 비판적으로 협업하는 사람입니다.

기술의 한계를 아는 것이
기술을 올바르게 사용하는 첫걸음입니다.
AI가 틀릴 수 있다는 것을 아는 사람만이
AI를 제대로 활용할 수 있습니다.

다음 편에서는 AI 언어 도구를 영어 학습에 실질적으로 활용하는 방법— 4부 3편: AI 언어 도구 활용 가이드로 이어집니다.

Next Episode · CL-10

4부 3편: AI 언어 도구 활용 — 영어 학습자를 위한 실전 가이드

→

© MisoEnglish · Michelle Kim  |  Computational Linguistics Series · CL-09