이득:
- 모델 '가중치' 개념과 암묵적/명시적 구분에 대한 구체적인 이해
- 오픈소스와 오픈소스의 차이점과 라이선스 문제를 확인하세요.
- 비즈니스 상황에 따라 정당성을 고려하여 폐쇄형, 개방형 또는 혼합형 접근 방식을 선택할 수 있는 능력
이전 단원에서 공급자를 알아가는 동안 표에 "가중치 유형"이라는 열이 있었습니다: 폐쇄형, 개방형, 혼합형. 이 단일 열은 실제로 모델 선택에 대한 가장 전략적인 결정 중 하나를 숨깁니다. 폐쇄형 또는 개방형 가중치 모델로 작업할지 여부 데이터가 처리될 위치, 월별 비용 구성 방법, 기술 팀 요구 사항 및 법적 책임이 직접 결정됩니다. 이 단원을 마치면 "가중치" 개념을 구체적으로 이해하고, 오픈 웨이트와 오픈 소스 간의 미묘하지만 중요한 차이점을 확인하고, 자신의 상황에 맞는 올바른 접근 방식을 정당화할 수 있게 됩니다.
"무게"란 정확히 무엇입니까?
AI 모델은 엄청난 양의 텍스트로 학습되면서 그 안에 있는 수십억 개의 수치(매개변수)를 천천히 조정합니다. 이 숫자를 모두 모델 가중치라고 합니다. 가중치는 모델이 "학습한 모든 것"을 저장하는 곳입니다. 이를 사람의 뇌에 있는 시냅스의 힘과 비교할 수 있습니다. 모델의 문법, 세계 지식, 추론 패턴이 모두 이 숫자로 코딩됩니다.
모델을 "실행"한다는 것은 이러한 가중치를 컴퓨터에 로드하고 그 위에 입력한 텍스트를 실행하는 것을 의미합니다. 중요한 질문은 누가 이러한 가중치 파일에 접근할 수 있는가입니다.
- 폐쇄 가중치: 가중치는 공급자의 서버에만 존재합니다. 직접 액세스할 수는 없습니다. 인터페이스(API)를 통해 인터넷을 통해 "문자 보내기, 응답 받기" 방식으로 사용합니다. Anthropic Claude, OpenAI GPT, Google Gemini가 바로 이렇습니다. (API는 소프트웨어가 표준 포트를 통해 다른 소프트웨어에 요청을 보내고 응답을 받을 수 있도록 하는 인터페이스입니다.)
- 오픈 웨이트: 웨이트 파일을 다운로드할 수 있습니다. 원하는 경우 자체 서버에 설치하여 실행할 수 있습니다. Meta Llama, DeepSeek, Mistral의 일부 모델은 이와 같습니다.
팁: 닫힌 가중치는 "임대 아파트"로, 열린 가중치는 "집 구입"으로 생각하십시오. 임대 아파트에서는 이사하기가 쉽고 유지 관리는 귀하의 책임이 아니지만 집주인이 규칙을 정합니다. 구입한 집의 모든 것은 귀하의 것이지만 개조, 보안 및 청구서도 귀하의 책임입니다.
오픈 웨이트는 오픈 소스와 동일하지 않습니다
여기에는 매우 일반적인 개념적 오류가 있습니다. "오픈 웨이트"와 "오픈 소스"는 종종 같은 의미로 사용되지만 동일한 것은 아닙니다.
- 개방형 가중치는 모델의 학습된 매개변수만 공유하는 것을 의미합니다. 일반적으로 모델이 어떻게 훈련되고 어떤 데이터가 제공되는지는 설명되지 않습니다.
- 완전 오픈 소스는 이상적으로 가중치, 훈련 데이터 및 훈련 코드가 모두 공유되고 자유롭게 사용될 수 있음을 의미합니다.
라이센스 문제도 있습니다. 모델의 가중치를 다운로드할 수 있더라도 해당 라이센스로 인해 상업적 사용이 제한되거나 특정 사용자 수를 초과하는 추가 요구 사항이 부과되거나 경쟁 제품 개발이 금지될 수 있습니다. 그래서 "다운로드할 수 있다"와 "원하는 대로 사용할 수 있다"는 것은 다른 것입니다.
주의: 개방형 가중치 모델을 비즈니스에 적용하기 전에 해당 라이센스를 반드시 읽어 보십시오. "open"이라는 단어에 속지 마십시오. 일부 라이선스는 특정 월간 활성 사용자 수를 초과하는 별도의 계약을 요구하고, 일부 라이선스는 특정 목적으로 출력 사용을 제한합니다. 이는 법무팀에 문의하셔야 할 사항입니다.
두 가지 접근 방식 비교
아래 표에서는 주요 차원에 대해 두 가지 접근 방식을 나란히 나열합니다.
크기
닫힌 무게
오픈 웨이트
설치
없음, 준비된 인터페이스
서버 및 기술팀 필요
데이터는 어디에서 처리되나요?
공급자의 서버에서
귀하가 통제할 수 있는 환경에서
초기비용
낮음(종량제)
높음(하드웨어, 설치)
대규모 비용
볼륨에 따라 증가
고정된 하드웨어로 예측 가능
업데이트/유지보수
공급자에게
너도
개인 정보 보호 제어
제한된
가득 찬
가장 강력한 모델에 접근
보통 여기서
변수
이 표에는 "어느 것이 더 나은가"에 대한 단일 답변이 없습니다. 각 줄은 우선순위에 따라 플러스 또는 마이너스입니다. 초기 비용을 낮추고, 폐쇄된 무게를 원한다면; 데이터가 회사에서 단 1밀리미터도 벗어나면 안 되는 경우 개방형 무게가 가장 중요합니다.
세 가지 현실적인 사례
사례 1 — 전자상거래 시작(폐쇄적 체중 증가). 5명으로 구성된 전자상거래 팀이 제품 설명을 작성하려고 합니다. 기술팀이 없고, 서버 관리를 원하지 않으며, 월별 볼륨이 가변적입니다. 그들은 폐쇄형 가중치 모델로 시작하여 사용한만큼 비용을 지불합니다. 첫 달에는 120만 개의 토큰을 처리하고 약 15달러를 지불합니다. 비즈니스가 성장함에 따라 청구서도 그에 비례하여 증가합니다. 서버, 유지관리, 업데이트 문제가 없습니다. 이 프로필에 대한 올바른 선택은 분명합니다.
사례 2 - 병원(부족으로 인해 체중이 증가함). 병원에서는 환자 기록을 요약하고 코딩하려고 합니다. 데이터는 매우 민감한 건강 데이터입니다. 어떤 경우에도 기관을 떠나서는 안 된다. 그들은 데이터 센터에 개방형 가중치 모델을 구축하고 있습니다. 그들은 설정과 하드웨어에 막대한 초기 투자를 하지만(예: 40,000달러의 서버와 2주간의 설정 노동) 환자당 추가 토큰 비용을 지불하지 않으며 데이터가 외부 서버로 전달되지 않습니다. 높은 볼륨과 절대적인 기밀성은 초기 비용을 정당화합니다.
사례 3 — 중형 회계 회사(하이브리드 접근 방식이 승리함) 회계 회사는 일일 일반 서신 및 초안 텍스트에 대해 기성 인터페이스의 폐쇄 가중치 모델을 사용합니다. 왜냐하면 이러한 작업에 대한 설치 노력이 가치가 없기 때문입니다. 그러나 고객 재무 데이터와 관련된 민감한 분석을 자체 서버에서 실행되는 개방형 가중치 모델에 아웃소싱합니다. 따라서 편의성과 프라이버시의 이점을 동시에 누릴 수 있습니다. 우리는 9단원에서 이 "혼합 포트폴리오" 접근 방식으로 돌아갈 것입니다.
약한 프롬프트/강한 프롬프트: 의사결정 지원을 요청할 때
약한 프롬프트:
오픈 웨이트를 사용해야 할까요, 아니면 닫힌 웨이트를 사용해야 할까요?
강력한 프롬프트:
귀하의 역할: 엔터프라이즈 AI 설계자. 내 상황: 우리는 12명으로 구성된 회계 회사이고 기술 팀은 없지만 외부 IT 컨설턴트가 있습니다. 월 사업당 최대 500,000개의 토큰. 데이터 중 일부는 고객 금융 데이터(민감한)이고 일부는 일반적인 서신입니다. 우리는 KVKK를 준수해야 합니다. 과제: 폐쇄형, 개방형, 혼합형 접근 방식을 그에 따라 비교합니다. 각각에 대해: 적합성(1-5), 첫해 예상 비용 범위, 개인 정보 보호 참고 사항, 주요 위험. 마지막으로 한 가지 제안을 하시고 그 이유를 3가지로 요약해 주십시오.
두 번째 프롬프트를 사용하면 모델이 결정에 필요한 모든 경계(팀, 볼륨, 데이터 유형, 법적 프레임워크)를 제공하므로 비즈니스에 실제로 적합한 권장 사항을 생성할 수 있습니다.
복사 가능한 템플릿
1. 체중 유형 결정:
내 직업: [설명]. 기술팀: [예/아니요]. 월별 토큰 볼륨: [NUM].데이터 민감도: [LOW/MEDIUM/HIGH].예산 구조 기본 설정: [LOW START / PREDICTABLE FIXED]. 이 프로필에 따라 폐쇄형, 개방형 및 혼합 옵션을 비교하고 단일 권장 사항을 제공합니다.
2. 라이센스 확인:
이 개방형 가중치 모델에 대한 라이센스를 단순화하십시오: [LICENSE NAME/TEXT]. 다음 질문에 답하십시오: 상업적 사용이 허용됩니까? 사용자/수익 제한이 있나요? 출력물을 재판매할 수 있나요? 금지된 용도는 무엇입니까? 불분명한 경우에는 "변호사에게 문의하세요"라고 기재하세요.
3. 비용 분석:
하드웨어, 설치 인건비, 전기/호스팅, 유지 관리, 업데이트 등 단순 모델의 총 소유 비용을 분석합니다. 폐쇄형 가중치 대안과 대략 3년간의 비교를 해보세요. 내 월별 볼륨: [NUMBER].
4. 개인정보 위험 검사:
다음 워크플로에서 데이터가 어디에서 어디로 이동하는지 추적합니다. [워크플로 설명]. 폐쇄 가중치를 사용하는 경우 데이터는 어느 지점에서 나가나요? 이 위험은 공개 중량에서 어떻게 변합니까? 각 위험에 대한 완화 방안을 제안합니다.
일반적인 실수
- "공개"라는 단어를 "무료 및 무제한"으로 착각: Open Weight는 무료 또는 무제한 상업적 사용을 보장하지 않습니다. 라이센스가 결정적이다.
- 오픈 웨이트를 생각하는 것은 "쉬운" 것입니다. 오픈 웨이트 모델을 실행하려면 서버, 기술 직원 및 유지 관리가 필요합니다. 설치를 과소평가하는 것은 흔한 실수입니다.
- 폐쇄형 가중치 데이터를 전혀 고려하지 않음: 폐쇄형 모델에서는 데이터가 공급자에게 전달됩니다. 어떤 데이터가 들어갈 수 있는지 미리 정리하지 않고 시작하는 것은 위험합니다.
- 초기 비용만 보면: 오픈 웨이트가 처음에는 비싸 보일 수 있지만, 대량 생산에서는 장기적으로 더 저렴할 수 있습니다. 3년간의 총 비용을 살펴보세요.
- '가장 강력한 패턴은 항상 닫혀 있다'는 모토입니다. 이는 대부분의 경우 사실이지만 절대적인 것은 아닙니다. 개방형 무게 모델은 특정 작업에 적합할 수 있습니다.
요약하면
- 모델 가중치는 모델이 학습한 정보를 저장하는 수십억 개의 매개변수입니다. "끄기/켜기" 구별은 이러한 매개변수에 액세스하는 것입니다.
- 닫힌 가중치: 데이터 제공자에 대한 준비 인터페이스, 낮은 시작. 분명한 무게는 자체 서버, 완전한 제어, 높은 시작 및 유지 관리 오버헤드입니다.
- 오픈 웨이트는 오픈 소스와 동일하지 않습니다. 라이센스 조건에 따라 상업적 사용이 제한될 수 있습니다.
- 올바른 선택; 팀, 규모, 데이터 민감도 및 예산 구조에 따라 다릅니다. 하이브리드 접근 방식은 대부분의 중견 기업에 적합합니다.
응용과제
이전 단원에서 생성한 요구 사항 프로필을 선택하세요. 이 유닛의 템플릿 1(가중치 유형 결정)을 사용하여 AI 모델에 제공합니다. 표의 7가지 차원(설치, 데이터 위치, 시작 비용, 확장 비용, 유지 관리, 개인 정보 보호, 강력한 모델에 대한 액세스)을 하나씩 비교하여 결과 권장 사항을 직접 평가하십시오. 귀하의 평가가 모델의 권장 사항과 다른 경우, 다른 부분을 한 문장으로 적어주세요.
체크리스트
- [ ] 나는 '무게'의 개념을 내 말로 설명할 수 있다.
- [ ] 닫힌 추와 열린 추의 장단점을 7차원으로 비교할 수 있습니다.
- [ ] 저는 오픈소스와 오픈소스의 차이점과 라이선스 위험을 알고 있습니다.
- [ ] 나는 내 사업에 대해 폐쇄형/개방형/하이브리드형 선택을 정당화할 수 있습니다.
- [ ] 워크플로에서 데이터가 이동하는 위치를 추적하고 위험 지점을 표시할 수 있습니다.