หน่วย
1. ระบบนิเวศของผู้ให้บริการ AI: แผนที่ แนวคิด และ 'ไม่มีโมเดลที่ดีที่สุด' 2. น้ำหนักปิดและน้ำหนักเปิด: ความสมดุลของการควบคุม ต้นทุน และความเป็นส่วนตัว 3. เจาะลึกยักษ์ใหญ่ของสหรัฐฯ: มานุษยวิทยา, OpenAI, Google 4. ผู้เล่นที่แข็งแกร่งคนอื่นๆ: Meta, Mistral, xAI, DeepSeek, Cohere 5. โทเค็น หน้าต่างบริบท และความหลากหลาย: วิธีการทำงานของจิตใจของแบบจำลอง 6. ตรรกะการกำหนดราคา: เศรษฐกิจโทเค็นและความสมดุลด้านต้นทุนและคุณภาพ 7. ระดับและความสามารถของโมเดล: การใช้เหตุผล ความเร็ว และการเลือกโมเดลขนาดเล็ก/ใหญ่ 8. อธิปไตยของข้อมูล KVKK/EU และความเป็นส่วนตัว: คุณไว้วางใจข้อมูลกับใคร? 9. การเลือกแบบจำลองที่เหมาะสม: แผนผังการตัดสินใจและผลงานแบบจำลอง 10. การประยุกต์ใช้แบบครบวงจร: การประเมิน การตรวจสอบความถูกต้อง จริยธรรม และขอบเขต
หน่วย 7 / 10

ระดับและความสามารถของโมเดล: การใช้เหตุผล ความเร็ว และการเลือกโมเดลขนาดเล็ก/ใหญ่

กำไร:

  • การรับรู้ขั้นตอนและโหมดการใช้เหตุผลของโมเดลที่เบา สมดุล และทรงพลัง
  • การเลือกระดับโมเดลที่เหมาะสมตามความยากของงาน
  • ความสามารถในการสร้างสมดุลระหว่างเวลาแฝง ความถูกต้อง และต้นทุนอย่างมีสติ

เราเรียนรู้ที่จะคำนวณราคา ตอนนี้เรามาพูดถึงสิ่งที่เราได้รับในราคานั้น ได้แก่ ระดับโมเดลและความสามารถ ปัจจัย 3 ประการที่แข่งขันกันอย่างต่อเนื่องในการเลือกรุ่น ได้แก่ คุณภาพ (ความแม่นยำ) ความเร็ว (ความหน่วง) และต้นทุน การปรับปรุงสองในสามข้อนี้มักหมายถึงการประนีประนอมในข้อที่สาม ในหน่วยการเรียนรู้ คุณจะได้เรียนรู้เกี่ยวกับระดับแสง ระดับที่สมดุลและทรงพลัง โหมดการใช้เหตุผล และการตั้งค่าโมเดลขนาดเล็ก/ใหญ่ คุณจะสามารถสร้างสมดุลที่เหมาะสมตามความยากง่ายของงานได้อย่างมีสติ

สามระดับ สามตัวละครงานที่แตกต่างกัน

ผู้ให้บริการเกือบทุกรายเสนอสามระดับภายในกลุ่มเดียวกัน มาจับคู่สิ่งเหล่านี้กับลักษณะของงาน:

  • Light Tier (รุ่นเล็ก) : เร็วมาก ถูกมาก "ดีพอ" เหมาะสำหรับงานที่เรียบง่าย ทำซ้ำๆ และมีปริมาณมาก: การจำแนกประเภท การบรรยายสรุป การแท็ก การล้างข้อมูล แบบร่างการตอบสนองแบบง่าย
  • ระดับสมดุล (รุ่นกลาง): คุณภาพดี ความเร็วพอสมควร ต้นทุนสมเหตุสมผล ตัวเลือก “เริ่มต้น” สำหรับงานส่วนใหญ่ในแต่ละวัน: การผลิตเนื้อหา การวิเคราะห์ระยะกลาง การตอบสนองของลูกค้า
  • ระดับทรงพลัง (รุ่นใหญ่): คุณภาพสูงสุด, ช้าที่สุด, แพงที่สุด สำหรับการให้เหตุผลที่ซับซ้อน การวิเคราะห์ที่ยาวและหลายขั้นตอน รหัสที่ยาก การประเมินทางกฎหมาย/ทางการเงินที่แม่นยำ
เคล็ดลับ: กฎการเริ่มต้นที่ดี: เริ่มต้นด้วยระดับที่สมดุล หากคุณภาพไม่ดี ให้เลื่อนขึ้นไปยังระดับที่แข็งแกร่ง หากคุณภาพดีมากและระดับเสียงสูง ให้ลงไปที่ระดับแสง แนวทาง "เริ่มต้นด้วยดีพอ" ไม่ใช่แนวทาง "เริ่มต้นด้วยจุดแข็งที่สุด" ช่วยประหยัดทั้งเงินและเวลา

โหมดการใช้เหตุผลคืออะไร?

บางรุ่นอาจ "คิด" คำตอบทีละขั้นตอนก่อน แทนที่จะสร้างขึ้นโดยตรง สิ่งนี้เรียกว่าโหมดการใช้เหตุผล แบบจำลองแบ่งปัญหาออกเป็นส่วนๆ ประมวลผลขั้นตอนกลางภายในตัวมันเอง จากนั้นจึงให้คำตอบสุดท้ายเท่านั้น ซึ่งคล้ายกับการที่นักเรียนแก้ปัญหาคณิตศาสตร์ทีละขั้นตอนบนกระดาษ

เมื่อไหร่จะมีคุณค่า? ในปัญหาเชิงตรรกะหลายขั้นตอน: การคำนวณที่ซับซ้อน การตรวจจับความขัดแย้ง การอนุมานแบบลูกโซ่ยาว ข้อผิดพลาดของโค้ดที่ยาก ในงานประเภทนี้ การใช้เหตุผลจะเพิ่มความแม่นยำอย่างมาก

ค่าใช้จ่ายคืออะไร? การใช้เหตุผลจะเพิ่มต้นทุนและเวลาแฝงเมื่อโมเดลสร้าง "โทเค็นการคิด" มากขึ้น ดังนั้นมันจะทั้งแพงกว่าและช้ากว่า คำง่ายๆ “รีวิวนี้เป็นบวกหรือไม่” การใช้เหตุผลกับคำถามก็เหมือนกับการฆ่าแมลงวันด้วยค้อน ทำให้เกิดต้นทุนและความล่าช้าที่ไม่จำเป็น

ข้อควรระวัง: อย่าเปิดโหมดการให้เหตุผลทิ้งไว้สำหรับทุกงาน ทั้งเร็วกว่าและถูกกว่าหากปิดไว้สำหรับงานง่ายๆ โมเดลสมัยใหม่บางรุ่นมาพร้อมกับโหมดการคิดแบบ "ปรับตัว" ซึ่งจะตัดสินใจเองเมื่อจำเป็นต้องคิด อย่างไรก็ตาม มันเป็นหน้าที่ของคุณที่จะต้องจัดการมันอย่างมีสติ

คุณภาพ ความเร็ว สามเหลี่ยมต้นทุน

ลำดับความสำคัญ

ระดับที่เหมาะสม

การใช้เหตุผล

ต้นทุนต่ำสุด ปริมาณสูง

น้ำหนักเบา

ปิดแล้ว

ยอดคงเหลือ (งานส่วนใหญ่)

สมดุล

ขึ้นอยู่กับสถานการณ์

ความแม่นยำสูงสุด การตัดสินใจที่สำคัญ

แข็งแรง

เปิด

ตอบกลับทันที เวลาแฝงต่ำ (แชท)

เบา/สมดุล

ปิดแล้ว

การวิเคราะห์ที่ซับซ้อนหลายขั้นตอน

แข็งแรง

เปิด

เมื่อคุณดูตารางนี้ ให้ถามตัวเองว่า “จะมีค่าใช้จ่ายเท่าไรหากฉันทำผิดพลาดในงานนี้” หากราคาสูง (การประเมินทางกฎหมายผิด การตัดสินใจทางการเงินผิด) การลงทุนที่มีความสามารถและการใช้เหตุผลที่แข็งแกร่งจะเป็นสิ่งที่สมเหตุสมผล หากราคาต่ำ (ฉลากผลิตภัณฑ์ผิดประเภท) รุ่นที่เบาและรวดเร็วก็เพียงพอแล้ว

รุ่นเล็กหรือรุ่นใหญ่?

ขัดกับความเชื่อที่นิยม ไม่ใช่ทุกงานต้องใช้แบบจำลองขนาดใหญ่ โมเดลขนาดเล็กมีความสามารถอย่างน่าประหลาดใจ โดยทำงานได้หลายอย่างโดยมีค่าใช้จ่ายเพียงสิบเท่าและมีความเร็วมากกว่าโมเดลใหญ่กว่าหลายเท่า คำถามสามข้อสำหรับการตัดสินใจ:

  1. งานนั้นง่ายและมีสูตรสำเร็จหรือไม่? (จำแนก สกัด สรุปโดยย่อ) → รุ่นเล็ก
  2. ระดับเสียงสูงเกินไปและความเร็วมีความสำคัญหรือไม่? → รุ่นเล็ก เพราะรุ่นใหญ่มีราคาแพงและช้า
  3. งานนี้ต้องใช้เหตุผลที่เหมาะสม บริบทที่ขยายออกไป หรือความคิดสร้างสรรค์หรือไม่? → รุ่นใหญ่

สามกรณีที่สมจริง

กรณีที่ 1 — รุ่นน้ำหนักเบาก็เพียงพอแล้ว ทีมอีคอมเมิร์ซจัดเรียงความคิดเห็นของลูกค้า 40,000 รายการต่อวันเป็นบวก/ลบ/เป็นกลาง พวกเขาลองใช้กับรุ่นทรงพลังแล้วเปรียบเทียบกับรุ่นน้ำหนักเบา: ความแม่นยำเกือบจะเท่ากัน (96% เทียบกับ 94%) แต่รุ่นน้ำหนักเบาราคาถูกกว่า 8 เท่าและเร็วกว่า 3 เท่า รุ่นน้ำหนักเบาเป็นตัวเลือกที่เหมาะสมสำหรับงานนี้ ความแม่นยำที่เพิ่มขึ้น 2% ไม่ได้ช่วยลดต้นทุนถึง 8 เท่า

กรณีที่ 2 — ต้องมีโมเดลที่ชัดเจน + การใช้เหตุผล บริษัทที่ปรึกษาด้านภาษีต้องการคำนวณสถานการณ์ภาษีแบบหลายขั้นตอนที่ซับซ้อน แบบจำลองน้ำหนักเบาทำผิดพลาดในขั้นตอนกลางๆ และให้ผลลัพธ์ที่ไม่ถูกต้อง เมื่อพวกเขาใช้แบบจำลองอันทรงพลังโดยเปิดโหมดการให้เหตุผล โมเดลจะดำเนินไปทีละขั้นตอนและไปถึงข้อสรุปที่ถูกต้อง ในที่นี้ ค่าใช้จ่ายเพิ่มเติมและความล่าช้าเป็นที่ยอมรับได้ เนื่องจากค่าความผิดพลาดสูง อย่างไรก็ตามผู้เชี่ยวชาญยืนยันผลลัพธ์

กรณีที่ 3 — การใช้งานแบบผสมผสาน ศูนย์บริการทางโทรศัพท์จะประมวลผลบันทึกการโทรในสองขั้นตอน: ขั้นแรก จะสรุปการโทรแต่ละครั้งโดยย่อด้วยโมเดลที่ไม่ซับซ้อน (ปริมาณมาก งานธรรมดา) จากนั้นจะให้เฉพาะการโทรที่ทำเครื่องหมายว่าเป็น "ข้อร้องเรียน" ให้กับโมเดลที่มีประสิทธิภาพ และดำเนินการวิเคราะห์สาเหตุที่แท้จริง (ปริมาณต่ำ งานที่ซับซ้อน) ดังนั้นพวกเขาจึงประมวลผลเสียงจำนวนมากในราคาถูก ขณะเดียวกันก็สงวนพลังของรูปแบบที่แข็งแกร่งไว้สำหรับการโทรเพียงไม่กี่ครั้งที่สำคัญจริงๆ

พรอมต์ที่อ่อนแอ / พรอมต์ที่แข็งแกร่ง

พรอมต์ที่อ่อนแอ:

แก้ปัญหาสถานการณ์ภาษีนี้ [สถานการณ์ที่ซับซ้อน]

ยังไม่ชัดเจนว่าโมเดลจะพิจารณาอย่างรอบคอบเพียงใด

พรอมต์อันทรงพลัง:

บทบาทของคุณ: ผู้เชี่ยวชาญด้านภาษีอาวุโส งาน: แก้ไขสถานการณ์หลายขั้นตอนต่อไปนี้ทีละขั้นตอน ขั้นแรกให้เขียนรายการสมมติฐาน จากนั้นคำนวณและแสดงแต่ละขั้นตอนแยกกัน และสุดท้ายก็ให้ผลลัพธ์สุทธิ หากมีประเด็นที่คุณไม่แน่ใจหรือขึ้นอยู่กับกฎหมาย ให้ทำเครื่องหมายว่าเป็น "ต้องมีการยืนยันจากผู้เชี่ยวชาญ" ข้ามขั้นตอนระหว่างกลาง[สถานการณ์]

ข้อความแจ้งที่มีประสิทธิภาพจะแนะนำแบบจำลองผ่านการคิดทีละขั้นตอน (สนับสนุนการใช้เหตุผล) และทำให้มองเห็นขั้นตอนกลางเพื่อตรวจสอบได้

เทมเพลตที่คัดลอกได้

การวินิจฉัยขั้นที่ 1:

ภารกิจของฉัน: [งาน] ปริมาณ: [NUMBER/วัน] ค่าความผิดพลาด: [LOW/MEDIUM/HIGH] ลำดับความสำคัญความเร็ว: [LOW/HIGH] จากโปรไฟล์นี้ คุณจะแนะนำระดับใด (เบา/สมดุล/แข็งแกร่ง) และการใช้เหตุผล (เปิด/ปิด) จัดชิดขอบ

2. การตัดสินใจเกี่ยวกับโมเดลขนาดเล็ก/ใหญ่:

ฉันกำหนดงานต่อไปนี้: [TASK] ปัญหานี้สามารถแก้ไขได้ด้วยโมเดลขนาดเล็ก (เบา) หรือจำเป็นต้องใช้โมเดลขนาดใหญ่หรือไม่? แนะนำกรณีทดสอบ 3 กรณีและเกณฑ์ความสำเร็จให้ฉันลองแก้ไขด้วยโมเดลขนาดเล็ก

3. ความเหมาะสมของการให้เหตุผล:

โหมดการใช้เหตุผล (การคิดทีละขั้นตอน) จะเป็นประโยชน์หรือมีค่าใช้จ่ายสูงในงานต่อไปนี้: [งาน] หรือไม่ ชี้แจงการตัดสินใจของคุณตามจำนวนขั้นตอนและความซับซ้อนเชิงตรรกะของงาน

4. การออกแบบเวิร์กโฟลว์สองขั้นตอน:

ออกแบบโฟลว์สองขั้นตอนเพื่อลดต้นทุนในงานปริมาณมากต่อไปนี้ [งาน]: ส่วนใดควรเป็นรุ่นน้ำหนักเบา ส่วนใดควรเป็นรุ่นที่มีประสิทธิภาพ เขียนระดับและเหตุผลของแต่ละขั้นตอน

ข้อผิดพลาดทั่วไป

  • โมเดลที่ทรงพลังสำหรับทุกงาน: การสร้างต้นทุนและความล่าช้าที่ไม่จำเป็นโดยใช้โมเดลที่ทรงพลังที่สุดในงานที่เรียบง่ายและมีขนาดใหญ่
  • ปล่อยให้การใช้เหตุผลอยู่เสมอ: เปิดโหมดการคิดในงานง่ายๆ และเสียเวลาและเงินโดยเปล่าประโยชน์
  • การตัดสินใจโดยไม่ต้องวัดคุณภาพ: สมมติว่า "ใหญ่กว่าดีกว่า" โดยไม่ต้องเปรียบเทียบสองระดับกับข้อมูลของคุณเอง
  • ลืมความต้องการความเร็ว: ในสถานที่ที่ต้องการการตอบสนองทันที เช่น การแชท การเลือกรุ่นที่มีประสิทธิภาพช้า และการทำให้ผู้ใช้ต้องรอ
  • ไม่คิดเรื่องการไหลแบบสองขั้นตอนเลย: ไม่มีการสร้างปริมาตรทั้งหมดด้วยรุ่นเดียวและไม่ประหยัดส่วนที่สามารถทำได้ในราคาถูก

โดยสรุป

  • การเลือกแบบจำลองเป็นการกระทำที่สมดุลในรูปสามเหลี่ยมของคุณภาพ ความเร็ว และราคา การปรับปรุงสองมักจะต้องประนีประนอมกับบุคคลที่สาม
  • เวทีแสงเหมาะสำหรับงานที่เรียบง่าย/เทอะทะ เวทีที่แข็งแกร่งเหมาะสำหรับงานที่ซับซ้อน/สำคัญ ระยะที่สมดุลเป็นการเริ่มต้นที่ดีสำหรับงานส่วนใหญ่
  • โหมดการใช้เหตุผลช่วยเพิ่มความแม่นยำในปัญหาหลายขั้นตอน แต่เพิ่มต้นทุนและเวลาแฝง ไม่ควรปล่อยให้ทุกงานเปิดทิ้งไว้
  • “ความล้มเหลวในภารกิจนี้มีค่าใช้จ่ายเท่าไร?” คำถามคือเข็มทิศของการตัดสินใจระดับและการใช้เหตุผล การไหลแบบสองขั้นตอนช่วยประหยัดงานปริมาณมากได้มาก

งานสมัคร

เลือกงานในงานของคุณและกำหนดขั้นตอนและการตั้งค่าเหตุผลที่เหมาะสมกับเทมเพลต 1 (การวินิจฉัยระยะ) หากงานมีปริมาณมาก ให้ออกแบบการออกแบบที่ส่งบางส่วนไปยังโมเดลน้ำหนักเบาและส่วนสำคัญไปยังโมเดลที่แข็งแกร่งด้วยเทมเพลต 4 (เวิร์กโฟลว์สองขั้นตอน) เราจะใช้การออกแบบนี้ในการศึกษาพอร์ตโฟลิโอโมเดลในหน่วยที่ 9

รายการตรวจสอบ

  • [ ] ฉันสามารถจับคู่ลักษณะการทำงานของขั้นตอนที่เบา สมดุล และทรงพลังได้
  • [ ] ฉันสามารถอธิบายได้ว่าโหมดการให้เหตุผลทำอะไรได้บ้าง และมีค่าใช้จ่ายเท่าไร
  • [ ] ฉันสามารถสร้างสมดุลด้านคุณภาพ-ความเร็ว-ต้นทุนสำหรับงานหนึ่งๆ ได้อย่างมีสติ
  • [ ] ฉันสามารถตอบคำถามแบบจำลองขนาดเล็กหรือขนาดใหญ่ด้วยคำถามสามข้อ
  • [ ] ฉันสามารถออกแบบโฟลว์สองขั้นตอนสำหรับงานที่มีปริมาณมากได้