어떻게 똑똑한 AI, 책임 있는 AI

데이터가 치우치면 AI도 치우쳐요

AI는 데이터에서 배운다. 예시를 많이 보여 주면 그 속의 패턴을 따라 판단해요. 그런데 보여 준 예시가 한쪽으로 치우쳐 있으면 AI는 그 치우침까지 그대로 배운다. 한 종류의 예시만 잔뜩 본 AI는 다른 종류를 잘 알아보지 못한다.
치우침은 개수의 불균형에서만 오지 않는다. 과거 사람들이 내린 결정에 편견이 섞여 있었다면, 그 기록으로 배운 AI도 같은 편견을 되풀이해요. 지난 채용 기록으로 배운 AI가 어느 한쪽 지원자를 덜 뽑게 되는 식이다.

동그라미나 세모 예시 버튼을 눌러 한쪽만 늘려 보자. 데이터가 한쪽으로 치우치면 경계선이 밀려나 적은 쪽을 자꾸 틀려요.

한쪽 예시만 늘리자 경계선이 밀려났다. 많이 본 쪽은 잘 맞히지만 적게 본 쪽은 자꾸 틀린다. AI가 나빠서가 아니라 배운 재료가 치우쳤기 때문이에요. 이것을 편향이라고 한다.
그래서 AI를 만들 때는 데이터가 골고루 모였는지, 그 안에 옛 편견이 숨어 있지 않은지 사람이 살펴야 한다. 만든 뒤에도 집단마다 정확도가 비슷한지 따로 재 본다.

모르는 것도 자신 있게 지어내요

앞에서 LLM은 다음에 올 말을 확률로 골라 잇는다고 배웠다. 목표가 그럴듯하게 잇는 것이어서, 그 말이 사실인지 따로 확인하지는 않는다. 그래서 모르는 것을 물어도 모른다고 하기보다 그럴듯한 문장을 지어낼 때가 있어요.
말투는 자신 있는데 내용은 틀린 것이다. 이것을 환각이라고 부른다.

AI가 답할 수 있는 질문과 답할 수 없는 질문을 차례로 눌러 보자. 내일 복권 번호처럼 알 수 없는 것에도 멈추지 않고 그럴듯한 답을 지어내는 것이 환각이에요.

아는 질문에는 맞는 답이 나왔지만, 알 수 없는 질문에도 똑같이 자신 있는 말투로 답을 지어냈다. 게다가 LLM은 학습한 시점까지의 자료만 알기 때문에 그 뒤에 생긴 일은 잘 모른다.
그래서 AI의 답은 늘 사실인지 확인해야 해요. 특히 숫자, 출처, 최근 일은 믿을 만한 자료에서 직접 다시 찾아보는 것이 안전하다. 요즘은 답할 때 검색 결과를 함께 보여 주어 확인을 돕는 방법도 쓰인다.

같은 기술, 좋게도 나쁘게도

AI는 그림을 만들고, 목소리를 흉내 내고, 글을 막힘없이 쓴다. 이 능력은 쓸모가 많다. 흐릿한 옛 사진을 또렷하게 살리고, 병으로 목소리를 잃은 사람에게 예전 목소리를 되찾아 주고, 어려운 글을 쉽게 풀어 준다.
그런데 똑같은 능력으로 진짜처럼 보이는 가짜 얼굴이나 목소리를 만들어 남을 속일 수도 있어요. 이런 가짜를 딥페이크라고 부른다. 도구는 하나인데 쓰임은 정반대가 될 수 있다.

기술을 하나 골라 이로운 쓰임과 해로운 쓰임을 나란히 보자. 같은 도구라도 어떻게 쓰느냐가 좋고 나쁨을 가른다는 것이 보여요.

같은 기술이 한쪽에서는 도움이 되고 다른 쪽에서는 해가 됐다. 기술 자체에는 좋고 나쁨이 없고, 그것을 가르는 것은 쓰는 사람의 선택이다. 그래서 강력한 도구일수록 쓰는 방법에 대한 약속이 필요해요.
AI로 만든 결과물에는 AI로 만들었다고 표시하고, 다른 사람의 얼굴이나 목소리는 허락 없이 쓰지 않고, 남의 작품과 개인 정보를 함부로 가져다 쓰지 않는 것이 그런 약속이다. 이런 약속을 법으로 정하기 시작한 나라도 여럿 있다.

사람이 확인하고, 투명하고, 공정하게

그렇다면 AI를 책임 있게 쓰려면 무엇을 지켜야 할까? 세 가지를 기억하면 좋다. 첫째, 사람이 확인한다. AI의 답을 그대로 믿지 말고, 중요한 결정은 사람이 다시 살펴요.
둘째, 투명하게 밝힌다. 어떤 데이터로 어떻게 만들었는지, 어디에 AI를 썼는지 숨기지 않는다. 셋째, 공정한지 살핀다. 특정한 사람들만 손해를 보지 않는지 챙긴다.

세 점검 항목을 차례로 눌러 통과시켜 보자. 사람 확인, 투명, 공정이 모두 켜져야 AI를 안심하고 쓸 수 있는 상태가 돼요.

세 가지가 모두 켜지자 비로소 안심하고 쓸 만해졌다. 돌아보면 지금까지 배운 것들이 여기서 하나로 모인다. AI는 데이터에서 배우고, 뉴런과 층을 쌓아 패턴을 잡고, LLM은 확률로 말을 잇는다.
강력한 만큼 한계도 분명하다. 그래서 마지막 한 칸은 늘 사람의 몫이에요. 확인하고, 밝히고, 공정하게 쓰는 일이다.

정리

정리하면 이렇다. AI는 강력하지만 완벽하지 않다. 데이터가 치우치면 판단도 치우치고(편향), 모르는 것을 자신 있게 지어내며(환각), 같은 기술이 남을 해치는 데 쓰일 수도 있다(오남용).
그래서 사람이 확인하고, 투명하게 밝히고, 공정하게 쓰는 책임이 늘 함께 가야 해요. AI가 똑똑해질수록 그 능력을 책임 있게 쓰는 일이 더 중요해진다.

AI 여정을 차례로 눌러 마무리해 보자. (데이터로 배움 → 뉴런과 층으로 패턴 → LLM은 확률로 말 → 한계는 편향·환각·오남용 → 책임 있게 쓰기)

여기까지 먼 길을 왔다. 데이터에서 출발해 뉴런 하나, 층층이 쌓은 신경망, 이미지를 보는 CNN과 단어의 좌표인 임베딩, 문맥을 읽는 어텐션, 확률로 말을 잇는 LLM, 그리고 새것을 만드는 생성 AI까지 살펴봤어요.
마지막으로 하나를 더 얻었다. AI를 똑똑하게 쓰는 법뿐 아니라 책임 있게 쓰는 법이다. AI가 낸 답을 가려 듣고, 어디에 어떻게 쓸지 정하는 판단은 끝까지 사람에게 남는다.