Keuntungan:
- Mengecam peringkat model dan mod penaakulan yang ringan, seimbang dan berkuasa
- Memilih tahap model yang sesuai berdasarkan kesukaran sesuatu tugasan
- Keupayaan untuk mewujudkan keseimbangan antara kependaman, ketepatan dan kos secara sedar
Kami belajar mengira harga; Sekarang mari kita bercakap tentang apa yang kita dapat untuk harga itu, iaitu tahap dan keupayaan model. Tiga kuasa sentiasa bersaing apabila memilih model: kualiti (ketepatan), kelajuan (latensi) dan kos. Menambah baik dua daripada tiga ini selalunya bermakna menjejaskan yang ketiga. Dalam unit, anda akan belajar tentang tahap ringan, seimbang dan berkuasa, mod penaakulan dan pilihan model kecil/besar; Anda akan dapat secara sedar mewujudkan keseimbangan yang betul mengikut kesukaran tugas.
Tiga Tahap, Tiga Watak Pekerjaan Berbeza
Hampir setiap pembekal menawarkan tiga peringkat dalam keluarga yang sama. Mari padankan ini dengan watak tugasan:
- Peringkat ringan (model kecil): Sangat pantas, sangat murah, "cukup baik". Ideal untuk tugasan mudah, berulang, volum tinggi: klasifikasi, taklimat, penandaan, pembersihan data, draf respons ringkas.
- Peringkat seimbang (model sederhana): Kualiti yang baik, kelajuan yang berpatutan, kos yang berpatutan. Pilihan "lalai" untuk kebanyakan kerja harian: pengeluaran kandungan, analisis pertengahan panjang, respons pelanggan.
- Peringkat berkuasa (model besar): Kualiti tertinggi, paling perlahan, paling mahal. Untuk penaakulan yang kompleks, analisis panjang dan pelbagai langkah, kod sukar, penilaian undang-undang/kewangan yang tepat.
Petua: Peraturan permulaan yang baik: Mulakan dengan tahap yang seimbang. Jika kualitinya kurang baik, naik ke tahap yang kukuh; Jika kualitinya sangat baik dan volumnya tinggi, turun ke tahap cahaya. Pendekatan "bermula dengan cukup baik", bukan pendekatan "bermula dengan yang paling kuat", menjimatkan wang dan masa.
Apakah Mod Penaakulan?
Sesetengah model mungkin terlebih dahulu "memikirkan" jawapan langkah demi langkah daripada menjananya secara langsung. Ini dipanggil mod penaakulan. Model memecahkan masalah kepada bahagian-bahagian, memproses langkah-langkah perantaraan dalam dirinya sendiri, dan hanya kemudian memberikan jawapan akhir. Ini sama seperti pelajar menyelesaikan masalah matematik langkah demi langkah di atas kertas.
Bilakah ia berharga? Dalam pelbagai langkah, masalah logik: pengiraan yang kompleks, pengesanan percanggahan, rantaian inferens yang panjang, ralat kod yang sukar. Dalam jenis kerja ini, penaakulan meningkatkan ketepatan dengan ketara.
Berapakah kosnya? Penaakulan meningkatkan kos dan kependaman kerana model menjana lebih banyak "token pemikiran". Jadi ia akan menjadi lebih mahal dan lebih perlahan. Satu ringkasan "adakah ulasan ini positif?" Penaakulan pada soalan adalah seperti membunuh lalat dengan tukul; mewujudkan kos dan kelewatan yang tidak perlu.
Awas: Jangan biarkan mod penaakulan terbuka untuk setiap tugas. Ia lebih cepat dan lebih murah untuk menutupnya untuk tugasan mudah. Beberapa model moden datang dengan mod pemikiran "adaptif" yang menentukan sendiri apabila ia perlu berfikir; Walau bagaimanapun, tugas anda untuk menguruskannya secara sedar.
Kualiti, Kelajuan, Segi Tiga Kos
keutamaan
Tahap yang sesuai
penaakulan
Kos terendah, volum tinggi
ringan
tertutup
Baki (kebanyakan pekerjaan)
seimbang
bergantung kepada keadaan
Ketepatan tertinggi, keputusan kritikal
kuat
terbuka
Sambutan segera, kependaman rendah (sembang)
Ringan/seimbang
tertutup
Kompleks, analisis pelbagai langkah
kuat
terbuka
Semasa anda melihat jadual ini, tanya diri anda: "Berapa kos jika saya membuat kesilapan dalam tugas ini?" Jika harganya tinggi (penilaian undang-undang yang salah, keputusan kewangan yang salah) pelaburan yang berkaliber dan alasan yang kukuh adalah wajar. Jika harganya rendah (salah klasifikasi label produk), model yang ringan dan pantas sudah memadai.
Model Kecil atau Model Besar?
Bertentangan dengan kepercayaan popular, tidak setiap pekerjaan memerlukan model yang besar. Model yang lebih kecil telah menjadi sangat berkemampuan, melaksanakan banyak tugas pada kos sepersepuluh dan beberapa kali ganda kelajuan model yang lebih besar. Tiga soalan untuk keputusan:
- Adakah tugas itu mudah dan formulaik? (Klasifikasi, pengekstrakan, ringkasan ringkas) → Model kecil.
- Adakah volum terlalu tinggi dan kelajuan kritikal? → Model kecil, kerana model besar mahal dan lambat.
- Adakah tugas itu memerlukan penaakulan bernuansa, konteks lanjutan atau kreativiti? → Model besar.
Tiga Kes Realistik
Kes 1 — Model ringan sudah memadai. Pasukan e-dagang menyusun 40,000 ulasan pelanggan sehari kepada positif/negatif/neutral. Mereka mencubanya dengan model berkuasa dan kemudian membandingkannya dengan model ringan: ketepatan hampir sama (96% vs 94%), tetapi model ringan adalah 8 kali lebih murah dan 3 kali lebih pantas. Model ringan adalah pilihan yang tepat untuk tugas ini; Ketepatan tambahan 2% tidak mewajarkan 8x kos.
Kes 2 — Model yang kukuh + penaakulan adalah satu kemestian. Firma perunding cukai ingin mengira senario cukai pelbagai peringkat yang kompleks. Model ringan membuat kesilapan dalam langkah perantaraan dan memberikan hasil yang salah. Apabila mereka menggunakan model berkuasa dengan mod penaakulan dihidupkan, model itu berkembang selangkah demi selangkah dan mencapai kesimpulan yang betul. Di sini, kos tambahan dan kelewatan boleh diterima kerana kos ralat adalah tinggi; Walau bagaimanapun, pakar mengesahkan hasilnya.
Kes 3 — Penggunaan bercampur. Pusat panggilan memproses transkrip panggilan dalam dua langkah: pertama, ia meringkaskan secara ringkas setiap panggilan dengan model ringan (volum tinggi, kerja mudah), kemudian ia hanya memberikan panggilan yang ditandakan sebagai "aduan" kepada model berkuasa dan melakukan analisis punca (volum rendah, kerja kompleks). Jadi mereka memproses sebahagian besar volum dengan murah, sambil mengekalkan kuasa corak yang kuat untuk beberapa panggilan yang benar-benar penting.
Gesaan Lemah / Gesaan Kuat
Gesaan yang lemah:
Selesaikan senario cukai ini. [senario kompleks]
Tidak jelas sejauh mana model akan dipertimbangkan dengan teliti.
Gesaan kuat:
Peranan anda: pakar cukai kanan. Tugas: Selesaikan senario berbilang peringkat berikut langkah demi langkah. Mula-mula senaraikan andaian, kemudian hitung dan tunjukkan setiap langkah secara berasingan, dan akhirnya berikan hasil bersih. Jika terdapat perkara yang anda tidak pasti atau bergantung pada perundangan, tandai ia sebagai "pengesahan pakar diperlukan". Melangkau langkah perantaraan.[senario]
Gesaan yang berkuasa membimbing model melalui pemikiran langkah demi langkah (menggalakkan penaakulan) dan menjadikan langkah perantaraan kelihatan untuk pengesahan.
Templat Boleh Disalin
Diagnosis peringkat 1:
Misi saya: [TUGASAN]. Jilid: [NUMBER/hari]. Kos ralat: [RENDAH/SEDERHANA/TINGGI].Keutamaan kelajuan: [RENDAH/TINGGI]. Berdasarkan profil ini, apakah tahap (ringan/seimbang/kuat) dan penaakulan (terbuka/tertutup) yang akan anda cadangkan? Mewajarkan.
2. Keputusan model kecil/besar:
Saya mentakrifkan tugas berikut: [TUGASAN]. Bolehkah masalah ini diselesaikan dengan model kecil (ringan), atau adakah model besar diperlukan? Cadangkan 3 kes ujian dan ambang kejayaan untuk saya cuba selesaikan dengan model kecil.
3. Kesesuaian penaakulan:
Adakah mod penaakulan (pemikiran langkah demi langkah) memberi manfaat atau kos dalam tugas berikut: [TUGASAN]? Wajarkan keputusan anda berdasarkan bilangan langkah dan kerumitan logik tugas.
4. Reka bentuk aliran kerja dua peringkat:
Reka bentuk aliran dua peringkat untuk mengurangkan kos pada tugasan volum tinggi berikut [TUGASAN]: bahagian manakah yang harus digunakan untuk model ringan, bahagian manakah yang harus digunakan untuk model berkuasa? Tulis tahap dan rasional bagi setiap langkah.
Kesilapan biasa
- Model yang berkuasa untuk setiap kerja: Mencipta kos dan kelewatan yang tidak perlu dengan menggunakan model yang paling berkuasa dalam kerja yang mudah dan banyak.
- Sentiasa membiarkan penaakulan aktif: Memastikan mod berfikir dihidupkan dalam tugas mudah dan membuang masa dan wang dengan sia-sia.
- Membuat keputusan tanpa mengukur kualiti: Menganggap "lebih besar adalah lebih baik" tanpa membandingkan dua tahap dengan data anda sendiri.
- Melupakan keperluan untuk kelajuan: Di tempat yang memerlukan respons segera, seperti sembang, memilih model berkuasa perlahan dan memastikan pengguna menunggu.
- Tidak memikirkan aliran dua peringkat sama sekali: Tidak mempunyai keseluruhan volum yang dibina oleh satu model dan tidak menjimatkan bahagian yang boleh dilakukan dengan murah.
Secara ringkasnya
- Pemilihan model ialah tindakan mengimbangi dalam segi tiga kualiti, kelajuan dan kos; Memperbaik dua selalunya memerlukan kompromi yang ketiga.
- Peringkat ringan sesuai untuk kerja mudah/besar, peringkat kuat sesuai untuk kerja kompleks/kritikal; Peringkat seimbang adalah permulaan yang baik untuk kebanyakan pekerjaan.
- Mod penaakulan meningkatkan ketepatan dalam masalah berbilang langkah tetapi meningkatkan kos dan kependaman; Ia tidak sepatutnya dibiarkan terbuka kepada setiap tugas.
- "Berapa kos kegagalan dalam misi ini?" Persoalannya ialah kompas keputusan tahap dan penaakulan. Aliran dua peringkat memberikan penjimatan besar dalam kerja volum.
Tugasan permohonan
Pilih tugas dalam kerja anda dan tentukan peringkat dan tetapan penaakulan yang sesuai dengan templat 1 (diagnosis peringkat). Jika tugasan adalah kelantangan tinggi, tampilkan reka bentuk yang menghalakan sebahagian daripada kelantangan kepada model ringan dan bahagian kritikal kepada model kukuh dengan templat 4 (aliran kerja dua peringkat). Kami akan menggunakan reka bentuk ini dalam kajian portfolio model dalam unit 9.
senarai semak
- [ ] Saya boleh memadankan watak kerja peringkat ringan, seimbang dan berkuasa.
- [ ] Saya boleh menerangkan apa yang dilakukan oleh mod penaakulan dan kosnya.
- [ ] Saya secara sedar boleh mewujudkan keseimbangan kos kelajuan kualiti untuk sesuatu tugas.
- [ ] Saya boleh menjawab soalan model kecil atau besar dengan tiga soalan.
- [ ] Saya boleh mereka bentuk aliran dua peringkat untuk kerja volum tinggi.