생성 AI는 어떻게 작동하나요? — AI 리터러시

이득:

토큰은 확률과 예측의 개념을 직관적으로 설명할 수 있습니다.
언어 모델이 텍스트를 '단편적으로' 생성하는 이유를 이해합니다.
모델이 때로는 단호하게, 때로는 창의적으로 행동하는 이유를 해석할 수 있습니다.

"이스탄불의 가장 좋은 점"을 언어 모델에 쓰면 몇 초 안에 유창한 문단이 생성됩니다. 어떻게 이런 일이 발생하나요? 모델이 실제로 "생각"합니까? 아니면 그 뒤에 훨씬 간단하지만 강력한 메커니즘이 있습니까? 이 단원에서는 기술적인 방정식을 사용하지 않고 올바른 직관을 확립하여 생성 AI가 어떻게 작동하는지 설명합니다. 이러한 직관은 다음에 나오는 모든 것, 특히 환각, 검증 및 좋은 즉각적 글쓰기의 주제에 대한 기초입니다. 제너레이티브 AI, 즉 '생성 인공지능'은 기존 답변을 찾아 가져오는 대신 처음부터 텍스트를 생성하는 도구의 총칭입니다.

기본 아이디어: 다음 작품 예측

놀라운 점은 언어 모델이 학습하는 유일한 기본 작업은 "텍스트의 어느 부분이 가장 잘 따라올 것인가?"라는 것입니다. 질문에 대답하는 것입니다. 모델은 완전한 문장을 준비해서 여러분 앞에 제시하지 않습니다. 대신 왼쪽에서 오른쪽으로 문장을 한 조각씩 생성합니다.

단계별로 작동하는 방법은 다음과 같습니다.

사용자가 작성한 텍스트(프롬프트)를 읽습니다.
이 텍스트 뒤에 나올 가능성이 가장 높은 부분을 예측합니다.
해당 부분을 추가합니다.
새로 형성된 텍스트를 다시 살펴보고 다음으로 가장 가능성이 높은 부분을 추측합니다.
답변이 완료될 때까지 반복됩니다.

예: 모델에 "아침에 일어나면 뜨거운 컵을 드세요..."라는 텍스트를 제공한 경우 계속해서 "차" 또는 "커피"가 나올 가능성이 가장 높습니다. "아스팔트"가 아닙니다. 모델은 수백만 개의 텍스트로부터 이러한 확률을 학습했습니다. 그런 다음 그는 "차"를 추가한 다음 새 문장을 보고 다음으로 가장 가능성이 높은 부분을 추측하는 등의 작업을 수행합니다.

즉, 각 단계에서 모델은 자신이 작성한 내용을 보고 다음 단계를 진행합니다. 이것이 바로 "자동 완성의 매우 고급 버전"이라고 불리는 이유입니다. 그러나 이러한 비유가 재능을 과소평가해서는 안 됩니다. 올바른 규모에서 이 예측은 추론처럼 보이는 결과를 생성할 수 있습니다.

토큰: 단어의 작은 조각

이 모델은 실제로 완전한 "단어"가 아닌 토큰이라는 작은 조각으로 작동합니다. 토큰 때로는 전체 단어일 때도 있고, 단어의 일부일 때도 있고, 구두점일 때도 있습니다.

"book"은 단일 토큰일 수 있습니다.
"from our books"는 "book", "s", "our", "from"과 같은 여러 토큰으로 나눌 수 있습니다.
공백과 구두점도 토큰으로 간주됩니다.

주의: 토큰은 단순한 기술적 세부 사항이 아닙니다. 대부분의 AI 도구는 토큰 수에 따라 요금을 부과하며, 모델이 한 번에 처리할 수 있는 텍스트(컨텍스트 창)의 길이도 토큰으로 제한됩니다. 따라서 "얼마나 오래 쓰는가"는 직접적인 비용이자 한도입니다.

확률과 “따뜻함”: 결단력인가 창의성인가?

각 단계에서 모델은 하나의 확정적인 답변이 아니라 가능한 연속의 확률 목록을 생성합니다. 예를 들어, "hot"이라는 단어 뒤: 차 55%, 커피 35%, 우유 7%, 기타 3%. 그렇다면 그는 어느 쪽을 선택할까요?

여기서는 온도라는 설정이 적용됩니다. 온도는 모델이 얼마나 "위험"할 것인지를 결정하는 일종의 창의성 손잡이입니다.

설정

행동

결론

어디에 유용합니까?

저온

항상 가능성이 가장 높은 옵션을 선택합니다.

안정적이고 반복 가능함

법적 요약, 기술 설명, 데이터 추출

중간 온도

균형 잡힌 선택

자연스러우면서도 일관성 있는

일반 이메일, 보고서 초안

고온

가능성이 낮은 옵션을 시도합니다.

창의적이고 다양하며 예측할 수 없음

브레인스토밍, 슬로건, 네임제작

이는 또한 자주 묻는 질문인 "같은 질문을 두 번 하면 왜 다른 대답이 나오나요?"에 대해 설명합니다. 선택 과정에는 임의성이 있기 때문입니다. 모델은 데이터베이스에서 정해진 답을 도출하는 것이 아니라 매번 이를 재현합니다.

약한 프롬프트 / 강한 프롬프트

모델이 "확률"로 작동한다는 것을 알면 모델을 지시하는 방법도 달라집니다. 더 많은 맥락을 제공할수록 올바른 연속이 될 가능성이 높아집니다.

약한 프롬프트: 소개 텍스트를 작성하세요.

결과: 모델은 어떤 제품, 어떤 청중, 어떤 어조를 알지 못하기 때문에 가장 "평균"적이고 일반적인 텍스트를 생성합니다.

강력한 프롬프트: 작은 카페의 새로운 필터 커피에 대한 인스타그램 홍보 텍스트를 작성하세요. 대상: 25-35세, 커피 매니아. 어조: 친근함, 짧음. 최대 3문장, 마지막에 해시태그 2개.

결과: 문맥에 따라 가능성이 좁아지기 때문에 관련성이 있는 사용 가능한 텍스트입니다.

미니 케이스 3개

사례 1 - 마케팅, 다양성. 한 팀에서는 신제품에 대한 30개의 슬로건을 원했습니다. 높은 온도 설정으로 인해 이 모델은 다양하고 창의적인 옵션을 제공했습니다. 팀은 30개 중 4개를 선택하여 개발했습니다. 총 시간: 10분. 손으로 했다면 반나절은 걸렸을 것이다.

사례 2 - 법률, 높은 결단력. 같은 회사의 법무팀은 계약 조항을 단순화하고 있었습니다. 그들은 창의성이 아닌 일관성을 원했습니다. 저온에서 모델은 매번 거의 동일하고 보수적인 요약을 제공했습니다. 따라서 서로 다른 시험 간에 불일치가 없었습니다.

사례 3 - “왜 바뀌었나요?” 질문. 한 직원이 동일한 이메일 초안을 두 번 요청했지만 두 가지 다른 결과를 받았습니다. 그는 그것이 "실수"라고 생각했습니다. 사실 이는 모델의 무작위성에 따른 자연스러운 결과입니다. 직원이 마음에 드는 버전을 저장하고 필요하면 "이전 버전처럼 만들어라"라고 말하는 방법을 배운 후에는 문제가 없었습니다.

모델이 "이해"합니까?

가장 궁금한 질문입니다. 모델은 단어 간의 통계적 관계를 철저하게 학습하여 많은 작업을 이해하는 척합니다. 그러나 의식적인 이해나 의도, 현실을 통제하는 메커니즘은 없습니다. "가장 가능성이 높은 속편"을 제작합니다. "가장 정확한 정보"의 생성을 보장하지는 않습니다. 이러한 구별은 환각이라는 주제의 기초이며, 이에 대해서는 다음 단원에서 논의할 것입니다.

일반적인 실수

모델을 검색 엔진으로 착각합니다. 모델은 인터넷을 검색하지 않고 리소스를 검색하지 않습니다(특별한 검색 기능이 없는 한). 메모리에서 가능한 텍스트를 생성합니다. 그래서 그는 소스/그림을 구성할 수 있습니다.
유창함을 정확성으로 착각합니다. 텍스트가 아름답고 자신감이 있다고 해서 그 내용이 정확하다는 의미는 아닙니다.
매번 같은 대답을 기대합니다. 무작위성은 자연스러운 것입니다. 중요한 작업에 대해 원하는 출력을 저장하세요.
매우 길고 불필요한 텍스트를 붙여넣고 토큰 한도를 초과합니다. 길이는 비용을 증가시키고 모델의 초점을 흐트러뜨릴 수 있습니다. 필요한 맥락만 제공하면 됩니다.

주의: 모델이 유창하고 자신감 있게 말한다고 해서 그녀가 정확하게 말하는 것은 아닙니다. 유창성은 확률 추정의 자연스러운 결과입니다. 정확성은 별도로 독립적으로 확인해야 하는 것입니다.

요약하면

Generative AI는 다음으로 가능성이 가장 높은 조각(토큰)을 예측하여 단계별로 텍스트를 생성합니다. 문장을 하나씩 구성합니다.
토큰은 단어의 작은 부분이며 비용과 길이 제한을 모두 설정합니다.
각 단계에서 모델은 가능성 목록을 생성합니다. 온도 설정은 출력이 얼마나 안정적이거나 창의적인지를 결정합니다.
동일한 질문에 대해 다른 답변이 나오는 이유는 이 프로세스에 내재된 무작위성 때문입니다.
모델은 유창하게 말하지만 이것이 그녀가 진실을 말하고 있다는 것을 보장하지는 않습니다. 유창함과 정확성은 다른 것입니다.

신청업무

AI 도구에 동일한 창의적인 작업(예: "빠른 감사 메시지 쓰기")을 연속으로 두 번 부여하고 출력이 어떻게 다른지 관찰하세요. 그런 다음 "강력한 프롬프트" 템플릿을 사용하여 동일한 작업을 반복하고 컨텍스트를 추가하고 두 결과 간의 품질 차이를 확인합니다.

체크리스트

[ ] 모델이 "다음 가능한 덩어리를 예측"하여 텍스트를 생성한다고 설명할 수 있습니다.
나는 [ ] 토큰이 무엇인지, 왜 비용/한도를 나타내는지 알고 있습니다.
[ ] 나는 결단력이 필요한 직업과 창의성이 필요한 직업을 구분할 수 있습니다.
[ ] 동일한 질문에 대해 서로 다른 답변을 얻는 것이 정상이라는 것을 알고 있습니다.
[ ] 나는 유창함이 정확성을 보장하지 않는다는 점을 내면화했습니다.