Đơn vị 7 / 10

Cấp độ và khả năng của mô hình: Lý luận, tốc độ và lựa chọn mô hình nhỏ/lớn

Lợi nhuận:

  • Nhận biết các giai đoạn mô hình và phương thức lý luận nhẹ nhàng, cân bằng và mạnh mẽ
  • Lựa chọn cấp độ mô hình phù hợp dựa trên độ khó của nhiệm vụ
  • Khả năng thiết lập sự cân bằng một cách có ý thức giữa độ trễ, độ chính xác và chi phí

Chúng tôi học cách tính giá; Bây giờ hãy nói về những gì chúng ta nhận được với mức giá đó, cụ thể là cấp độ và khả năng của mẫu máy. Ba lực lượng liên tục cạnh tranh khi lựa chọn mô hình: chất lượng (độ chính xác), tốc độ (độ trễ) và chi phí. Cải thiện hai trong số ba điều này thường có nghĩa là phải thỏa hiệp với điều thứ ba. Trong phần này, bạn sẽ tìm hiểu về mức độ nhẹ, cân bằng và mạnh mẽ, chế độ suy luận và ưu tiên mô hình nhỏ/lớn; Bạn sẽ có thể thiết lập một cách có ý thức sự cân bằng phù hợp tùy theo độ khó của nhiệm vụ.

Ba cấp độ, ba nhân vật công việc khác nhau

Hầu hết mọi nhà cung cấp đều cung cấp ba cấp độ trong cùng một nhóm. Hãy kết hợp những điều này với đặc điểm của nhiệm vụ:

  • Hạng nhẹ (model nhỏ): Rất nhanh, rất rẻ, "đủ tốt". Lý tưởng cho các nhiệm vụ đơn giản, lặp đi lặp lại, khối lượng lớn: phân loại, tóm tắt, gắn thẻ, làm sạch dữ liệu, bản nháp phản hồi đơn giản.
  • Hạng cân bằng (model trung bình): Chất lượng tốt, tốc độ hợp lý, chi phí hợp lý. Lựa chọn “mặc định” cho hầu hết công việc hàng ngày: sản xuất nội dung, phân tích giữa kỳ, phản hồi của khách hàng.
  • Cấp mạnh mẽ (model lớn): Chất lượng cao nhất, chậm nhất, đắt nhất. Dành cho lý luận phức tạp, phân tích dài và nhiều bước, mã khó, đánh giá tài chính/pháp lý chính xác.
Mẹo: Quy tắc khởi đầu tốt: Bắt đầu với mức độ cân bằng. Nếu chất lượng kém thì chuyển lên mức mạnh; Nếu chất lượng cực tốt và âm lượng lớn thì hãy giảm xuống mức ánh sáng. Cách tiếp cận "bắt đầu với đủ tốt", chứ không phải cách tiếp cận "bắt đầu với điểm mạnh nhất", tiết kiệm cả tiền bạc và thời gian.

Chế độ lý luận là gì?

Một số mô hình trước tiên có thể "nghĩ" câu trả lời theo từng bước thay vì trực tiếp tạo ra câu trả lời. Đây được gọi là chế độ lý luận. Mô hình chia vấn đề thành nhiều phần, xử lý các bước trung gian trong chính nó và chỉ sau đó mới đưa ra câu trả lời cuối cùng. Điều này tương tự như việc một học sinh giải từng bước một bài toán trên giấy.

Khi nào nó có giá trị? Trong các vấn đề logic, nhiều bước: tính toán phức tạp, phát hiện mâu thuẫn, chuỗi suy luận dài, lỗi mã khó. Trong loại công việc này, lý luận làm tăng đáng kể độ chính xác.

Chi phí là bao nhiêu? Lý luận làm tăng chi phí và độ trễ khi mô hình tạo ra nhiều “mã thông báo suy nghĩ” hơn. Vì vậy, nó sẽ vừa đắt hơn vừa chậm hơn. Một câu hỏi đơn giản “đánh giá này có tích cực không?” Lý luận về câu hỏi này giống như giết một con ruồi bằng búa; gây ra những chi phí và sự chậm trễ không cần thiết.

Thận trọng: Không để chế độ lý luận mở cho mọi nhiệm vụ. Việc đóng cửa để thực hiện các nhiệm vụ đơn giản vừa nhanh hơn vừa rẻ hơn. Một số mô hình hiện đại có chế độ tư duy “thích ứng” tự quyết định khi nào cần suy nghĩ; Tuy nhiên, công việc của bạn là quản lý nó một cách có ý thức.

Tam giác chất lượng, tốc độ, chi phí

ưu tiên

Mức độ phù hợp

lý luận

Chi phí thấp nhất, số lượng lớn

nhẹ

Đã đóng

Cân bằng (hầu hết các công việc)

cân bằng

tùy thuộc vào tình hình

Độ chính xác cao nhất, quyết định quan trọng

mạnh mẽ

mở

Phản hồi tức thì, độ trễ thấp (trò chuyện)

Nhẹ/cân bằng

Đã đóng

Phân tích phức tạp, nhiều bước

mạnh mẽ

mở

Khi nhìn vào bảng này, hãy tự hỏi: “Tôi sẽ phải trả giá bao nhiêu nếu mắc lỗi trong nhiệm vụ này?” Nếu giá cao (đánh giá pháp lý sai, quyết định tài chính sai) thì việc đầu tư có tầm cỡ và lý trí là hợp lý. Nếu giá thấp (phân loại sai nhãn sản phẩm), mẫu mã nhẹ và nhanh là đủ.

Mô hình nhỏ hay mô hình lớn?

Trái với suy nghĩ của nhiều người, không phải công việc nào cũng cần một mô hình lớn. Các mô hình nhỏ hơn đã trở nên có khả năng đáng kinh ngạc, thực hiện nhiều nhiệm vụ với chi phí bằng 1/10 và tốc độ gấp nhiều lần so với mô hình lớn hơn. Ba câu hỏi để quyết định:

  1. Nhiệm vụ có đơn giản và mang tính công thức không? (Phân loại, trích xuất, tóm tắt ngắn gọn) → Mô hình nhỏ.
  2. Âm lượng có quá cao và tốc độ có quan trọng không? → Mô hình nhỏ, vì mô hình lớn đắt tiền và chậm.
  3. Nhiệm vụ có yêu cầu lý luận sắc thái, bối cảnh mở rộng hoặc tính sáng tạo không? → Mô hình lớn.

Ba trường hợp thực tế

Trường hợp 1 - Mô hình nhẹ là đủ. Một nhóm thương mại điện tử sắp xếp 40.000 nhận xét của khách hàng mỗi ngày thành tích cực/tiêu cực/trung tính. Họ thử với mẫu mạnh mẽ rồi so sánh với mẫu nhẹ: độ chính xác gần như giống nhau (96% so với 94%), nhưng mẫu nhẹ rẻ hơn 8 lần và nhanh hơn 3 lần. Cho đến nay, mẫu máy nhẹ là lựa chọn phù hợp cho nhiệm vụ này; Độ chính xác tăng thêm 2% không chứng minh được chi phí gấp 8 lần.

Trường hợp 2 - Mô hình mạnh mẽ + lý luận là điều bắt buộc. Một công ty tư vấn thuế muốn tính toán một kịch bản thuế phức tạp gồm nhiều giai đoạn. Mô hình nhẹ mắc lỗi ở các bước trung gian và cho kết quả không chính xác. Khi họ sử dụng mô hình mạnh mẽ có bật chế độ suy luận, mô hình sẽ tiến triển từng bước và đưa ra kết luận chính xác. Ở đây, chi phí bổ sung và sự chậm trễ có thể chấp nhận được vì chi phí sai sót cao; Tuy nhiên, một chuyên gia xác nhận kết quả.

Trường hợp 3 - Sử dụng hỗn hợp. Trung tâm cuộc gọi xử lý bản ghi cuộc gọi theo hai bước: đầu tiên, nó tóm tắt ngắn gọn từng cuộc gọi bằng một mô hình nhẹ (âm lượng lớn, công việc đơn giản), sau đó nó chỉ cung cấp các cuộc gọi được đánh dấu là "khiếu nại" cho mô hình mạnh mẽ và thực hiện phân tích nguyên nhân gốc rễ (âm lượng thấp, công việc phức tạp). Vì vậy, họ xử lý phần lớn khối lượng với chi phí thấp, đồng thời bảo lưu sức mạnh của mẫu mạnh cho một số cuộc gọi thực sự quan trọng.

Nhắc yếu / Nhắc mạnh

Dấu nhắc yếu:

Giải quyết tình huống thuế này. [kịch bản phức tạp]

Không rõ mô hình sẽ xem xét cẩn thận đến mức nào.

Lời nhắc mạnh mẽ:

Vai trò của bạn: chuyên gia thuế cấp cao. Nhiệm vụ: Giải quyết từng bước tình huống nhiều giai đoạn sau. Đầu tiên hãy liệt kê các giả định, sau đó tính toán và hiển thị từng bước riêng biệt và cuối cùng đưa ra kết quả cuối cùng. Nếu có điểm nào đó bạn không chắc chắn hoặc điều đó phụ thuộc vào luật pháp, hãy đánh dấu điểm đó là "cần có xác nhận của chuyên gia". Bỏ qua các bước trung gian.[kịch bản]

Lời nhắc mạnh mẽ hướng dẫn mô hình thông qua tư duy từng bước (khuyến khích lý luận) và hiển thị các bước trung gian để có thể xác minh.

Mẫu có thể sao chép

Chẩn đoán giai đoạn 1:

Nhiệm vụ của tôi: [NHIỆM VỤ]. Khối lượng: [SỐ/ngày]. Chi phí lỗi: [THẤP/TRUNG BÌNH/CAO]. Ưu tiên tốc độ: [THẤP/CAO]. Dựa trên hồ sơ này, bạn muốn giới thiệu mức độ nào (nhẹ/cân bằng/mạnh) và lý luận (mở/đóng)? Biện minh.

2. Quyết định mô hình nhỏ/lớn:

Tôi xác định nhiệm vụ sau: [TASK]. Vấn đề này có thể được giải quyết bằng một mô hình nhỏ (nhẹ) hay cần một mô hình lớn? Đề xuất 3 trường hợp thử nghiệm và ngưỡng thành công để tôi thử giải quyết bằng mô hình nhỏ.

3. Tính hợp lý của lý luận:

Chế độ lý luận (tư duy từng bước) sẽ có lợi hay tốn kém trong nhiệm vụ sau: [TASK]? Biện minh cho quyết định của bạn dựa trên số bước và độ phức tạp logic của nhiệm vụ.

4. Thiết kế quy trình làm việc hai giai đoạn:

Thiết kế quy trình hai giai đoạn để giảm chi phí cho nhiệm vụ khối lượng lớn [TASK] sau: phần nào nên dành cho mô hình nhẹ, phần nào nên dành cho mô hình mạnh mẽ? Viết mức độ và lý do cho từng bước.

Những lỗi thường gặp

  • Một mô hình mạnh mẽ cho mọi công việc: Tạo ra những chi phí và sự chậm trễ không cần thiết bằng cách sử dụng mô hình mạnh mẽ nhất trong những công việc đơn giản và khối lượng lớn.
  • Luôn bật lý luận: Luôn bật chế độ suy nghĩ trong những công việc đơn giản và lãng phí thời gian và tiền bạc một cách vô ích.
  • Đưa ra quyết định mà không đo lường chất lượng: Giả sử "càng lớn càng tốt" mà không so sánh hai cấp độ với dữ liệu của riêng bạn.
  • Quên nhu cầu về tốc độ: Ở những nơi cần phản hồi tức thì, chẳng hạn như trò chuyện, hãy chọn mô hình mạnh mẽ chậm và khiến người dùng phải chờ đợi.
  • Hoàn toàn không nghĩ đến quy trình hai giai đoạn: Không có toàn bộ khối lượng được xây dựng bởi một mô hình duy nhất và không tiết kiệm phần có thể được thực hiện với giá rẻ.

Tóm lại

  • Lựa chọn mô hình là hành động cân bằng trong tam giác chất lượng, tốc độ và chi phí; Cải thiện hai điều thường đòi hỏi phải thỏa hiệp với điều thứ ba.
  • Sân khấu nhẹ phù hợp với những công việc đơn giản/cồng kềnh, sân khấu mạnh phù hợp với những công việc phức tạp/quan trọng; Giai đoạn cân bằng là khởi đầu tốt cho hầu hết các công việc.
  • Chế độ suy luận cải thiện độ chính xác trong các bài toán nhiều bước nhưng làm tăng chi phí và độ trễ; Nó không nên được để mở cho mọi nhiệm vụ.
  • "Cái giá phải trả cho sự thất bại trong nhiệm vụ này là bao nhiêu?" Câu hỏi là la bàn của sự quyết định về trình độ và lý luận. Quy trình hai giai đoạn giúp tiết kiệm đáng kể khối lượng công việc.

Nhiệm vụ ứng dụng

Chọn một nhiệm vụ trong công việc của bạn và xác định giai đoạn nào và cách lập luận phù hợp với mẫu 1 (chẩn đoán giai đoạn). Nếu nhiệm vụ có khối lượng lớn, hãy đưa ra một thiết kế hướng một phần âm lượng sang mô hình nhẹ và phần quan trọng cho mô hình mạnh với mẫu 4 (quy trình làm việc hai giai đoạn). Chúng ta sẽ sử dụng thiết kế này trong nghiên cứu danh mục đầu tư mẫu ở bài 9.

danh sách kiểm tra

  • [ ] Tôi có thể phù hợp với tính chất công việc của các sân khấu nhẹ nhàng, cân bằng và mạnh mẽ.
  • [ ] Tôi có thể giải thích chế độ lý luận làm gì và chi phí của nó là bao nhiêu.
  • [ ] Tôi có thể thiết lập sự cân bằng giữa chất lượng-tốc độ-chi phí cho một nhiệm vụ một cách có ý thức.
  • [ ] Tôi có thể trả lời câu hỏi mô hình nhỏ hoặc lớn bằng ba câu hỏi.
  • [ ] Tôi có thể thiết kế quy trình hai giai đoạn cho một công việc có khối lượng lớn.