Đơn vị 9 / 10

Chọn mô hình phù hợp: Cây quyết định và danh mục đầu tư mô hình

Lợi nhuận:

  • Biến lựa chọn mô hình thành cây quyết định có cấu trúc với bảy câu hỏi chính
  • Khả năng đề xuất mô hình bằng cách áp dụng cây quyết định vào các tình huống kinh doanh thực tế
  • Đánh giá lợi ích và gánh nặng của việc thiết lập danh mục đầu tư kiểu mẫu thay vì phụ thuộc vào một mô hình duy nhất

Chúng tôi đã thu thập các phần trên tám đơn vị: nhà cung cấp, trọng số tiềm ẩn/rõ ràng, bối cảnh, đa phương thức, chi phí, cấp độ và chủ quyền dữ liệu. Bây giờ là lúc kết hợp những phần này thành một cơ chế quyết định duy nhất. Mục đích của phần này là trả lời câu hỏi "mô hình nào?" Bạn không còn có thể trả lời câu hỏi bằng trực giác nữa mà bằng cây quyết định có cấu trúc. Bạn cũng sẽ hiểu tại sao các tổ chức trưởng thành lại hướng tới một danh mục mô hình chứ không chỉ một mô hình. Sau khi hoàn thành bài học, bạn sẽ có thể áp dụng cây quyết định vào các tình huống kinh doanh thực tế và soạn thảo danh mục đầu tư của riêng mình.

Cây quyết định bảy câu hỏi

Chúng ta có thể giảm lựa chọn mô hình xuống còn bảy câu hỏi. Trả lời những câu hỏi này theo thứ tự gần như sẽ tự động đưa bạn đến với ứng viên phù hợp.

  1. Dữ liệu có nhạy cảm không? Nếu bạn đang xử lý dữ liệu cá nhân/bí mật → chủ quyền dữ liệu (trọng lượng rõ ràng, khu vực, không lưu giữ) sẽ được xác định trước tiên. Nếu không, tính linh hoạt của bạn sẽ tăng lên.
  2. Nhiệm vụ khó khăn như thế nào? Đơn giản/đáng gờm → mức độ nhẹ. Phức tạp/nhiều bước → bước mạnh + lý luận.
  3. Khối lượng là bao nhiêu? Khối lượng rất lớn → tốc độ và chi phí được đặt lên hàng đầu, hãy nghiêng về phạm vi ánh sáng. Khối lượng thấp → bạn có thể đầu tư vào chất lượng.
  4. Tài liệu/bối cảnh lớn đến mức nào? Tài liệu dài → cửa sổ ngữ cảnh rộng là điều bắt buộc. Văn bản ngắn → cửa sổ nhỏ là đủ.
  5. Có hình ảnh/âm thanh không? Nếu có → bắt buộc phải áp dụng mô hình đa phương thức. Nếu không thì mô hình văn bản là đủ.
  6. Độ nhạy ngân sách là gì? Nếu cao → tối ưu hóa bước, bộ đệm, lô; có thể là trọng lượng mở. Nếu thấp → ưu tiên chất lượng.
  7. Đội ngũ và cơ sở hạ tầng thế nào? Nếu không có đội ngũ kỹ thuật → cân khép kín, giao diện sẵn sàng. Nếu có một đội mạnh → tùy chọn trọng lượng mở sẽ được đưa ra.
Mẹo: Sau khi bạn trả lời bảy câu hỏi này, nhóm mô hình ứng viên thường thu hẹp xuống còn một đến hai mô hình. Mục đích của cây quyết định không phải là áp đặt một “câu trả lời đúng” duy nhất cho bạn mà là để nhanh chóng loại bỏ các lựa chọn và giúp bạn dễ dàng kiểm tra những câu trả lời còn lại bằng một thí điểm nhỏ.

Đưa cây quyết định vào bảng

Câu hỏi

Trả lời → Chuyển hướng

Dữ liệu có nhạy cảm không?

Có → trọng lượng mở / khu vực / 0 trước khi bảo quản

Nhiệm vụ có khó không?

Có → mạnh mẽ + lý luận / Không → nhẹ nhàng

Âm lượng có cao không?

Có → ưu tiên tốc độ và chi phí (nhẹ nhàng)

Tài liệu có lớn không?

Có → bối cảnh rộng hơn

Có hình ảnh không?

Có → bắt buộc đa phương thức

Ngân sách có hạn chế không?

Có → tối ưu hóa + có thể mở trọng lượng

Có đội ngũ kỹ thuật không?

Không có → giao diện đóng/sẵn sàng

Bảng này hoạt động giống như một danh sách kiểm tra: đánh dấu vào từng hàng, tập hợp hồ sơ kết quả. Ví dụ: cấu hình "dữ liệu nhạy cảm + nhiệm vụ khó + khối lượng thấp + đội ngũ kỹ thuật sẵn sàng" có thể sẽ hướng bạn đến một mô hình trọng lượng mở mạnh mẽ đang chạy trên máy chủ của riêng bạn.

Không phải một mô hình duy nhất, một danh mục đầu tư

Các tổ chức có kinh nghiệm sau một thời gian nhận ra rằng làm mọi thứ với một mô hình duy nhất không phải là cách rẻ nhất cũng như không phải là cách tốt nhất. Thay vào đó, họ xây dựng một danh mục các mô hình: sử dụng các mô hình khác nhau tùy theo nhiệm vụ. Logic rất đơn giản:

  • Công việc đơn giản, cồng kềnh → mẫu mã nhẹ và rẻ.
  • Công việc phức tạp, quan trọng → mô hình mạnh mẽ.
  • Công việc xử lý dữ liệu bí mật → trọng lượng mở/mô hình khu vực.
  • Tác phẩm trực quan → mô hình đa phương thức.

Cách tiếp cận danh mục đầu tư có hai lợi ích chính. Đầu tiên là tối ưu hóa chi phí: bạn yêu cầu mỗi công việc được thực hiện bởi một mô hình mạnh mẽ như nó cần và bạn không phải trả thêm tiền. Thứ hai, tính độc lập của nhà cung cấp: bạn không phụ thuộc vào một nhà cung cấp duy nhất; Nếu ai đó tăng giá, thay đổi chính sách hoặc cắt giảm dịch vụ, bạn đã có sẵn giải pháp thay thế. Điều này được gọi là "tránh bị khóa nhà cung cấp".

Thận trọng: Cách tiếp cận danh mục đầu tư không miễn phí; Quản lý và giám sát nhiều mô hình và đảm bảo chất lượng ổn định sẽ bổ sung thêm chi phí. Nếu bạn là một nhóm nhỏ, sẽ thông minh hơn nếu bạn bắt đầu với một mô hình cân bằng duy nhất và chuyển sang danh mục đầu tư khi doanh nghiệp của bạn phát triển. Việc thiết lập danh mục đầu tư sớm hơn mức cần thiết có thể tạo ra sự nhầm lẫn trong quản lý.

Một ví dụ về danh mục đầu tư

Dưới đây là danh mục mẫu mà một công ty dịch vụ cỡ trung bình có thể xây dựng:

loại hình kinh doanh

nhiệm vụ mẫu

Loại mô hình đã chọn

tại sao

Phân loại khối lượng cao

Gắn thẻ bình luận/vé

hơi tắt

Rẻ, nhanh, đủ

Sản xuất nội dung chung

Email, mô tả dự thảo

cân bằng lại

cân bằng tốt

phân tích phức tạp

Rà soát rủi ro hợp đồng

Tắt mạnh (bối cảnh rộng hơn)

Độ chính xác quan trọng

Xử lý dữ liệu bí mật

Phân tích dữ liệu tài chính/bệnh nhân

Trọng lượng mở (máy chủ riêng)

Dữ liệu không bị mất

xử lý hình ảnh

Đọc hóa đơn/ảnh

đa phương thức

yêu cầu trực quan

Bảng này dựa trên câu hỏi một câu "bạn sử dụng mô hình nào?" Nó cho thấy rằng câu hỏi thực sự là câu hỏi sai. Câu trả lời đúng là: “Mô hình nào cho công việc nào?”

Ba trường hợp thực tế: Áp dụng cây quyết định

Trường hợp 1 - Công ty luật nhỏ. Một văn phòng gồm năm người muốn tóm tắt hợp đồng. Cây quyết định: dữ liệu nhạy cảm (có, nhưng có thể quản lý được với sự đồng ý và hợp đồng rõ ràng) → nhiệm vụ khó khăn (có) → khối lượng thấp (~100 mỗi tháng) → tài liệu lớn (có, hơn 40 trang) → không có hình ảnh → ngân sách trung bình → không có đội ngũ kỹ thuật. Kết quả: tận dụng mô hình ngữ cảnh lớn, mạnh mẽ, có trọng lượng khép kín từ giao diện có sẵn mà không cần hợp đồng giữ chân. Khối lượng thấp làm cho chi phí của giai đoạn mạnh mẽ có thể quản lý được.

Trường hợp 2 - Hoạt động thương mại điện tử. Đội ngũ hai mươi người, họ có ba công việc: mô tả sản phẩm (khối lượng lớn), phân loại đánh giá của khách hàng (khối lượng rất cao), trích xuất dữ liệu từ hình ảnh hóa đơn (khối lượng trung bình, trực quan). Danh mục đầu tư thay vì mô hình đơn lẻ: mô hình cân bằng với báo cáo, mô hình nhẹ nhàng với nhận xét, mô hình đa phương thức với hóa đơn. Như vậy, chi phí và tài năng phù hợp cho từng công việc sẽ giảm xuống; tổng hóa đơn giảm xuống còn khoảng một phần ba số tiền sẽ có nếu họ để mô hình mạnh mẽ làm mọi việc.

Trường hợp 3 - Tổ chức công. Một tổ chức công muốn tóm tắt đơn đăng ký của công dân, nhưng dữ liệu mang tính cá nhân và không nhằm mục đích đưa ra nước ngoài. Cây quyết định gặp sự cố ở câu hỏi đầu tiên: dữ liệu nhạy cảm và chủ quyền là bắt buộc → trọng số rõ ràng/mô hình khu vực được ưu tiên hàng đầu. Vì họ có đội ngũ kỹ thuật nên họ chạy mô hình trọng lượng mở trên cơ sở hạ tầng của riêng mình. Các câu hỏi khác (độ khó, khối lượng) sẽ điều chỉnh cấp độ họ chọn.

Nhắc yếu / Nhắc mạnh

Dấu nhắc yếu:

Bạn giới thiệu mẫu nào cho chúng tôi?

Lời nhắc mạnh mẽ:

Vai trò của bạn: Kiến trúc sư giải pháp AI. Tôi đã trả lời bảy câu hỏi sau cho công việc của mình:1) Dữ liệu có nhạy cảm không: [TRẢ LỜI]2) Độ khó của nhiệm vụ: [TRẢ LỜI]3) Khối lượng: [TRẢ LỜI]4) Kích thước tài liệu: [TRẢ LỜI]5) Hình ảnh/âm thanh: [TRẢ LỜI]6) Độ nhạy ngân sách: [TRẢ LỜI]7) Nhóm kỹ thuật: [TRẢ LỜI]Nhiệm vụ: Thu hẹp loại mô hình ứng viên dựa trên những câu trả lời này (giai đoạn, loại trọng lượng, ngữ cảnh, đa phương thức). Đề xuất 2 ứng viên cụ thể. Sau đó chứng minh xem tôi nên giải quyết vấn đề này bằng một mô hình duy nhất hay danh mục gồm 2-3 mô hình.

Lời nhắc mạnh mẽ sẽ đưa trực tiếp các câu trả lời của cây quyết định vào mô hình; Do đó, mô hình không phỏng đoán mà thu hẹp theo hồ sơ thật của bạn.

Mẫu có thể sao chép

1. Chạy cây quyết định:

Hãy để tôi xác định công việc của mình: [MÔ TẢ]. Hỏi tôi bảy câu hỏi quyết định (độ nhạy dữ liệu, độ khó của nhiệm vụ, khối lượng, kích thước tài liệu, hình ảnh, ngân sách, nhóm) cho tôi theo thứ tự, thu hẹp nhóm ứng viên sau mỗi câu trả lời và cuối cùng đề xuất 2 loại mô hình.

2. Sơ lược danh mục đầu tư:

Tôi có các công việc sau: [ DANH SÁCH CÔNG VIỆC]. Áp dụng cây quyết định cho từng công việc, khớp với loại mô hình phù hợp và tạo bảng danh mục đầu tư (công việc/loại mô hình/sự biện minh). Đánh giá gánh nặng quản lý danh mục đầu tư chỉ bằng một câu.

3. Mô hình hoặc danh mục đơn lẻ:

Quy mô nhóm của tôi [NUM], tính đa dạng trong công việc của tôi [THẤP/TRUNG BÌNH/CAO], ngân sách AI hàng tháng của tôi[RANGE]. Tôi nên bắt đầu với một mô hình cân bằng duy nhất hay chuyển sang danh mục đầu tư ngay lập tức? So sánh ưu và nhược điểm, đề xuất lộ trình theo từng giai đoạn.

4. Đánh giá nguy cơ nghiện:

Chúng tôi hiện đang phụ thuộc vào một nhà cung cấp duy nhất [PROVIDER]. Những rủi ro của sự phụ thuộc này (giá cả, chính sách, sự gián đoạn) là gì? Tôi nên chuẩn bị sẵn nhà cung cấp thứ cấp nào làm phương án dự phòng để giảm thiểu rủi ro? Đề xuất 3 biện pháp sẽ giúp quá trình chuyển đổi dễ dàng hơn.

Những lỗi thường gặp

  • Lựa chọn bằng trực giác: Bỏ qua cây quyết định và chọn mô hình vì “nghe hay”; Sau đó, sự không tương thích phát sinh.
  • Để lại câu hỏi dữ liệu sau cùng: Trong dữ liệu nhạy cảm, câu hỏi về chủ quyền được đặt lên hàng đầu; Đặt nó ở cuối dẫn đến việc khóa sai mô hình.
  • Giao mọi công việc cho một mô hình duy nhất: Mất chất lượng hoặc ngân sách do các công việc có độ khó và khối lượng khác nhau được thực hiện bởi một mô hình duy nhất.
  • Thiết lập danh mục đầu tư quá sớm: Tạo ra sự phức tạp không cần thiết bằng cách cố gắng quản lý ba hoặc bốn mô hình như một nhóm nhỏ.
  • Hoàn toàn không nghĩ đến sự phụ thuộc: Hoàn toàn phụ thuộc vào một nhà cung cấp duy nhất và không có lựa chọn nào khác trong việc thay đổi giá cả/chính sách.

Tóm lại

  • Lựa chọn mô hình có thể được rút gọn thành bảy câu hỏi (dữ liệu, thách thức, khối lượng, bối cảnh, hình ảnh, ngân sách, nhóm); những câu hỏi này nhanh chóng thu hẹp nhóm ứng viên.
  • Trong dữ liệu nhạy cảm, câu hỏi về chủ quyền được đặt lên hàng đầu và đóng khung cho các quyết định khác.
  • Thay vì chỉ có một mô hình duy nhất, các tổ chức trưởng thành sẽ thiết lập một danh mục các mô hình khác nhau tùy theo nhiệm vụ; Điều này vừa tối ưu hóa chi phí vừa giảm sự phụ thuộc.
  • Danh mục đầu tư có chi phí quản lý; Các nhóm nhỏ nên bắt đầu với một mô hình cân bằng duy nhất và di chuyển dần dần.

Nhiệm vụ ứng dụng

Tập hợp tất cả các ghi chú bạn đã thực hiện trong các phần trước (hồ sơ nhu cầu, ưu tiên trọng lượng, ước tính mã thông báo/chi phí, chẩn đoán cấp độ, bản đồ dữ liệu). Với mẫu 1 trong bài học này (chạy cây quyết định), hãy trả lời bảy câu hỏi cho doanh nghiệp của bạn và đưa ra hai loại mô hình ứng viên. Nếu bạn có nhiều loại công việc, hãy tạo bảng danh mục đầu tư với mẫu 2 (bản phác thảo danh mục đầu tư). Bản thảo này sẽ là đầu vào cho nghiên cứu đánh giá và xác nhận ở học phần cuối cùng.

danh sách kiểm tra

  • [ ] Bằng cách áp dụng bảy câu hỏi quyết định theo thứ tự, tôi có thể thu hẹp nhóm ứng viên.
  • [ ] Tôi biết tại sao câu hỏi về chủ quyền lại được đặt lên hàng đầu khi nói đến dữ liệu nhạy cảm.
  • [ ] Tôi có thể áp dụng cây quyết định vào một tình huống kinh doanh thực tế và đề xuất một mô hình.
  • [ ] Tôi có thể đánh giá được ưu điểm và gánh nặng quản lý của danh mục đầu tư kiểu mẫu.
  • [ ] Tôi biết rủi ro khi phải phụ thuộc vào một nhà cung cấp duy nhất và các cách để giảm thiểu rủi ro đó.