AI 업계에서 자주 쓰는
핵심 개념 정리

문장을 읽을 때 “이 단어는 저 단어랑 관련 있네!” 하고 연결선을 그어주는 방법이에요. “철수가 사과를 먹었다. 그는 배불렀다”에서 ‘그’가 철수라는 걸 알아내요.

예를 들면긴 문장에서 중요한 단어끼리 형광펜으로 이어가며 뜻을 파악하기

AI 머릿속에 있는 수많은 ‘조절 다이얼’이에요. 공부할 때마다 다이얼을 조금씩 돌려서 정답에 가까워지게 맞춰요. 다이얼이 많을수록 더 많은 걸 기억할 수 있어요.

예를 들면“700억 개 파라미터 모델” = 조절 다이얼이 700억 개 달린 AI

AI가 대답하기 전에 책상 위에 어떤 자료를 놓아줄지 정하는 일이에요. 시험 볼 때 필요한 교과서 페이지만 딱 펴놓으면 문제를 더 잘 풀 수 있잖아요. 책을 다 쌓아두면 오히려 헷갈려요.

예를 들면요리 질문을 받으면 레시피 카드만 보여주고, 상관없는 수학책은 치워두기

숫자 주소(임베딩)로 바뀐 정보들을 모아두는 특별한 도서관이에요. 제목이 똑같지 않아도 “이거랑 비슷한 거 찾아줘”라고 하면 가까운 동네에 사는 책들을 금방 찾아줘요.

예를 들면공룡 사진을 보여주면 도서관에서 공룡이 나오는 책을 쏙쏙 골라주기

글자가 똑같은지가 아니라 ‘뜻’이 비슷한지로 찾는 검색이에요. “배가 고파”라고 검색해도 ‘맛집’이나 ‘간식’ 이야기를 찾아주는 똑똑한 검색이에요.

예를 들면‘비 올 때 쓰는 것’을 검색하면 ‘우산’, ‘우비’, ‘장화’가 나오기

AI 전체를 다시 가르치는 대신, 작은 ‘부품’만 새로 붙여서 가르치는 방법이에요. 자전거를 새로 사지 않고 바구니만 달아서 장보기용 자전거로 바꾸는 것처럼 싸고 빨라요.

예를 들면큰 AI는 그대로 두고, 작은 ‘말투 부품’만 붙여서 사투리를 쓰게 하기

“이렇게 부탁하면 이렇게 대답해”라는 예시를 많이 보여줘서 AI가 부탁을 잘 알아듣게 만드는 공부예요. 심부름 연습을 많이 한 아이가 “우유 사와” 하면 척척 해내는 것과 같아요.

예를 들면“요약해줘”, “번역해줘”, “표로 만들어줘” 같은 부탁과 모범 답안을 잔뜩 보여주기

AI가 한 대답에 사람(또는 다른 AI)이 “이게 더 좋아!” 하고 칭찬 스티커를 붙여주면서 가르치는 방법이에요. 칭찬받은 대답을 AI가 점점 더 자주 하게 돼요.

예를 들면두 대답 중 더 친절하고 정확한 쪽에 스티커를 붙여주기

큰 선생님 AI가 알고 있는 걸 작은 학생 AI에게 알려주는 거예요. 두꺼운 백과사전을 요약 노트로 정리하면 가볍게 들고 다닐 수 있는 것처럼, 작은 AI도 꽤 똑똑해지고 빨라져요.

예를 들면큰 AI가 푼 문제와 답을 작은 AI가 보고 따라 배우기

공부를 다 마친 AI가 실제로 문제를 푸는 순간이에요. 공부하는 시간이 ‘학습’이라면, 시험지를 받고 답을 쓰는 시간이 ‘추론’이에요.

예를 들면“오늘 날씨에 뭐 입을까?”라고 물으면 AI가 답을 만들어내는 그 순간

AI를 식당처럼 문을 열어두고 손님(사용자)이 언제든 주문할 수 있게 운영하는 거예요. 요리사(AI)가 있어도 식당 문을 안 열면 아무도 음식을 못 먹잖아요.

예를 들면앱에서 버튼을 누르면 언제든 AI가 대답해주도록 준비해두기

지연시간은 ‘내 음식이 나오기까지 걸리는 시간’, 처리량은 ‘식당이 한 시간에 손님을 몇 명 받을 수 있는지’예요. 둘 다 좋아야 인기 식당이 돼요.

예를 들면대답이 1초 만에 나오면 지연시간이 짧은 것, 동시에 1000명에게 대답하면 처리량이 큰 것

AI가 앞에서 계산한 걸 메모해두고 다시 쓰는 방법이에요. 구구단을 매번 처음부터 외우지 않고 적어둔 표를 보면 훨씬 빠르잖아요.

예를 들면긴 문장을 한 글자씩 쓸 때마다 앞 내용을 다시 계산하지 않고 메모장 보기

AI 머릿속 숫자를 조금 대충 적어서 가볍게 만드는 거예요. 3.14159265 대신 3.14라고만 써도 대부분 문제는 풀 수 있고, 공책도 훨씬 덜 쓰죠.

예를 들면무거운 AI를 가볍게 만들어서 휴대폰에서도 돌아가게 하기

여러 명의 전문가 선생님이 있고, 문제에 맞는 선생님 몇 분만 불러서 푸는 방식이에요. 수학 문제면 수학 선생님, 영어 문제면 영어 선생님만 오니까 모두가 다 일할 필요가 없어요.

예를 들면요리 질문엔 ‘요리 전문가’만, 코딩 질문엔 ‘코딩 전문가’만 일하기

AI, 검색, 도구, 기억장치 같은 여러 연주자를 한 곡으로 맞춰주는 ‘지휘자’ 역할이에요. 악기가 각자 따로 놀면 시끄럽지만, 지휘자가 있으면 멋진 음악이 돼요.

예를 들면질문을 받으면 먼저 검색하고, 다음에 계산하고, 마지막에 AI가 정리하게 순서 정하기

AI가 예전 대화나 내 취향을 기억해두는 일기장이에요. 친구가 “너 딸기 좋아하지?” 하고 기억해주면 기분 좋잖아요.

예를 들면지난번에 “나는 매운 거 못 먹어”라고 했던 걸 기억해서 순한 메뉴 추천하기

AI가 위험하거나 엉뚱한 곳으로 가지 않게 막아주는 ‘도로 난간’이에요. 난간이 있으면 차가 길 밖으로 떨어지지 않죠.

예를 들면나쁜 말이나 위험한 방법을 물어보면 AI가 대답하지 않도록 막기

AI가 얼마나 잘하는지 정기적으로 보는 ‘시험’이에요. 시험을 봐야 어느 과목을 더 공부해야 하는지 알 수 있죠.

예를 들면질문 100개를 주고 몇 개나 맞게 대답하는지 점수 매기기

AI가 대답할 때 “이건 이 책 몇 쪽에 나와요” 하고 근거를 붙잡고 말하게 하는 거예요. 발표할 때 출처를 밝히면 믿을 수 있는 것과 같아요.

예를 들면“회사 규칙집 3장에 따르면…”처럼 진짜 자료를 보고 대답하기

AI가 어떤 과정을 거쳐 그 대답을 했는지 발자국을 남겨 추적하는 거예요. 블랙박스 영상이 있으면 무슨 일이 있었는지 나중에 되돌려 볼 수 있잖아요.

예를 들면이상한 대답이 나왔을 때 어떤 자료와 도구를 썼는지 기록을 보고 원인 찾기

부탁을 받으면 대신 일을 해주는 ‘24시간 일하는 컴퓨터’예요. 편의점처럼 밤에도 문을 열어두고 손님이 오면 필요한 걸 내어줘요.

예를 들면내가 유튜브를 켜면 멀리 있는 서버가 영상을 보내주기

컴퓨터를 집에 사두는 대신 필요할 때 빌려 쓰는 거예요. 자전거를 사지 않고 공유 자전거를 탄 만큼만 돈 내는 것과 같아요.

예를 들면사진을 휴대폰이 아니라 인터넷 사진첩에 저장해서 어디서든 보기

다 만든 작품을 교실 게시판에 붙여서 모두가 볼 수 있게 하는 거예요. 내 공책 안에만 있으면 아무도 못 보잖아요.

예를 들면앱에 새 기능을 만들고 “업데이트” 버튼을 눌러 사람들이 받을 수 있게 하기

게임의 ‘세이브 포인트’예요. 중간중간 저장해두면 실수해도 저장한 곳으로 돌아갈 수 있어요. 누가 언제 뭘 바꿨는지도 다 적혀 있어요.

예를 들면글을 고치다 망쳤을 때 “어제 저장본”으로 되돌리기

만든 종이비행기를 대회 전에 미리 날려보는 거예요. 잘 나는지 확인하고, 문제가 있으면 대회 전에 고칠 수 있어요.

예를 들면로그인 버튼이 맞는 비밀번호엔 들어가고, 틀린 비밀번호엔 막히는지 확인하기

방 정리하기예요. 장난감 개수는 똑같지만 제자리에 정리해두면 다음에 찾기도 쉽고 새 장난감 넣을 자리도 생겨요.

예를 들면똑같은 코드가 다섯 군데 있으면 한 곳으로 모아서 한 번만 고치면 되게 만들기

프로그램이 쓰는 ‘일기장’이에요. “9시에 누가 들어옴, 9시 5분에 오류 남”처럼 적어두면 나중에 무슨 일이 있었는지 알 수 있어요.

예를 들면앱이 갑자기 꺼졌을 때 일기장(로그)을 보고 몇 시에 왜 꺼졌는지 찾기

정보를 적는 ‘약속된 메모 양식’이에요. {이름: 철수, 나이: 10}처럼 적으면 사람도 컴퓨터도 쉽게 읽을 수 있어요.

예를 들면학생 카드를 {이름, 학년, 반} 칸이 있는 똑같은 양식으로 적어서 주고받기