AI sáng tạo hoạt động như thế nào?

Lợi nhuận:

• Mã thông báo có thể giải thích trực quan các khái niệm về xác suất và dự đoán
• Hiểu lý do tại sao mô hình ngôn ngữ tạo ra văn bản 'từng phần'
• Có thể giải thích tại sao mô hình đôi khi hành xử quyết đoán và đôi khi lại sáng tạo

Khi bạn viết "điều tuyệt vời nhất về Istanbul" sang một mô hình ngôn ngữ, nó sẽ tạo ra một đoạn văn trôi chảy trong vài giây. Làm thế nào điều này xảy ra? Mô hình này có thực sự “suy nghĩ” hay có một cơ chế đơn giản hơn nhưng mạnh mẽ hơn nhiều đằng sau nó? Trong phần này, chúng tôi sẽ giải thích cách hoạt động của Generative AI mà không đi sâu vào các phương trình kỹ thuật mà bằng cách thiết lập trực giác đúng đắn. Trực giác này là nền tảng cho mọi thứ tiếp theo - đặc biệt là các chủ đề về ảo giác, xác minh và viết nhanh. Generative AI, hay còn gọi là "trí tuệ nhân tạo tổng quát", là tên gọi chung của các công cụ tạo văn bản từ đầu thay vì tìm và tìm nạp câu trả lời hiện có.

Ý tưởng cơ bản: Dự đoán phần tiếp theo

Điều đáng ngạc nhiên là nhiệm vụ cơ bản duy nhất mà một mô hình ngôn ngữ học là “phần nào của văn bản có nhiều khả năng tuân theo nhất?” là để trả lời câu hỏi. Người mẫu không chuẩn bị một câu hoàn chỉnh và trình bày trước mặt bạn. Thay vào đó, nó tạo ra từng câu một, từ trái sang phải.

Đây là cách nó hoạt động từng bước:

1. Nó đọc văn bản (nhắc nhở) bạn viết.
2. Dự đoán phần có khả năng xảy ra nhất theo văn bản này.
3. Thêm phần đó.
4. Nó nhìn lại văn bản mới được hình thành và đoán phần tiếp theo có khả năng xảy ra nhất.
5. Lặp lại cho đến khi trả lời xong.

Ví dụ: Nếu bạn đưa cho người mẫu dòng chữ "Hãy uống một cốc nóng khi bạn thức dậy vào buổi sáng...", khả năng tiếp theo sẽ là "trà" hoặc "cà phê"; Không phải "nhựa đường". Mô hình đã học được những xác suất như vậy từ hàng triệu văn bản. Sau đó, anh ấy thêm "trà", sau đó nhìn vào câu mới và đoán phần tiếp theo có khả năng xảy ra nhất, v.v.

Nói cách khác, ở mỗi bước, mô hình sẽ thực hiện bước tiếp theo bằng cách xem những gì nó đã viết. Đó là lý do tại sao đôi khi nó được gọi là "phiên bản tự động hoàn thành rất tiên tiến". Nhưng sự so sánh này không nên coi thường tài năng; Ở quy mô phù hợp, dự đoán này có thể tạo ra kết quả giống như lý luận.

Mã thông báo: Những mảnh nhỏ của một từ

Mô hình thực sự hoạt động không phải với "từ" đầy đủ mà với các phần nhỏ hơn gọi là mã thông báo. Một mã thông báo; Đôi khi nó là cả một từ, đôi khi nó là một phần của từ, đôi khi nó là một dấu chấm câu.

• "cuốn sách" có thể là một mã thông báo duy nhất.
• "từ sách của chúng tôi" có thể được chia thành nhiều mã thông báo như "sách", "s", "của chúng tôi", "từ".
• Dấu cách và dấu chấm câu cũng được tính là mã thông báo.

Lưu ý: Token không chỉ là một chi tiết kỹ thuật. Hầu hết các công cụ AI tính phí theo số lượng mã thông báo và độ dài của mô hình văn bản (cửa sổ ngữ cảnh) có thể xử lý tại một thời điểm cũng bị giới hạn về mã thông báo. Vì vậy, "bạn viết trong bao lâu" là chi phí và giới hạn trực tiếp.

Xác suất và “Sự nồng nhiệt”: Quyết tâm hay Sáng tạo?

Ở mỗi bước, mô hình không tạo ra một câu trả lời dứt khoát duy nhất mà đưa ra một danh sách xác suất các khả năng tiếp tục. Ví dụ sau từ “nóng”: trà 55%, cà phê 35%, sữa 7%, còn lại 3%. Vậy anh ấy chọn cái nào?

Ở đây, một cài đặt được gọi là nhiệt độ sẽ được áp dụng. Nhiệt độ là một loại núm sáng tạo quyết định mức độ "rủi ro" của mô hình.

Cài đặt

hành vi

Kết luận

Nó hữu ích ở đâu?

nhiệt độ thấp

Luôn chọn phương án có khả năng nhất

Ổn định, có thể lặp lại

Tóm tắt pháp lý, mô tả kỹ thuật, trích xuất dữ liệu

nhiệt độ trung bình

Sự lựa chọn cân bằng

Tự nhiên nhưng nhất quán

Email chung, bản thảo báo cáo

nhiệt độ cao

Thử các tùy chọn ít có khả năng hơn

Sáng tạo, đa dạng, khó đoán

Lên ý tưởng, slogan, sản xuất tên

Điều này cũng giải thích cho câu hỏi thường gặp: "Tại sao tôi lại nhận được các câu trả lời khác nhau khi hỏi cùng một câu hỏi hai lần?" Bởi vì có sự ngẫu nhiên trong quá trình lựa chọn; Mô hình không đưa ra câu trả lời cố định từ cơ sở dữ liệu mà sẽ tái tạo câu trả lời đó mọi lúc.

Nhắc yếu / Nhắc mạnh

Việc biết rằng mô hình hoạt động với "xác suất" cũng sẽ thay đổi cách bạn hướng dẫn nó. Bạn càng cung cấp nhiều ngữ cảnh thì khả năng tiếp tục chính xác càng cao.

Lời nhắc yếu: Viết đoạn văn giới thiệu.

Kết quả: Mô hình tạo ra văn bản chung chung và “trung bình” nhất vì không biết sản phẩm nào, đối tượng nào, giai điệu nào.

Lời nhắc mạnh mẽ: Viết văn bản quảng cáo trên Instagram cho cà phê phin mới của một quán cà phê nhỏ. Đối tượng: 25-35 tuổi, đam mê cà phê. Giọng điệu: thân thiện, ngắn gọn. Tối đa 3 câu, 2 hashtag ở cuối.

Kết quả: Một văn bản có thể sử dụng được và phù hợp vì ngữ cảnh thu hẹp các khả năng.

Ba hộp nhỏ

Trường hợp 1 - Tiếp thị, có tính đa dạng cao. Một nhóm muốn có 30 khẩu hiệu cho một sản phẩm mới. Với cài đặt nhiệt độ cao, mô hình này tạo ra các tùy chọn sáng tạo, khác nhau; Nhóm đã chọn lọc và phát triển 4/30. Tổng thời gian: 10 phút. Nếu làm bằng tay thì phải mất nửa ngày.

Trường hợp 2 - Pháp luật, quyết tâm cao. Đội ngũ pháp lý của công ty đó đang đơn giản hóa điều khoản hợp đồng. Họ muốn sự nhất quán chứ không phải sự sáng tạo; Với nhiệt độ thấp, mô hình mỗi lần đều đưa ra bản tóm tắt gần như giống nhau và thận trọng. Vì vậy, không có sự mâu thuẫn giữa các thử nghiệm khác nhau.

Trường hợp 3 - “Tại sao nó lại thay đổi?” câu hỏi. Một nhân viên đã yêu cầu cùng một bản nháp email hai lần và nhận được hai kết quả khác nhau; Anh cho rằng đó là một “sai lầm”. Trên thực tế, đây là hệ quả tất yếu của tính ngẫu nhiên của mô hình. Sau khi nhân viên học cách lưu phiên bản mình thích và nói "làm giống phiên bản trước" nếu cần thì không có vấn đề gì.

Người mẫu có “hiểu được” không?

Đây là câu hỏi gây tò mò nhất. Mô hình đã học được mối quan hệ thống kê giữa các từ một cách kỹ lưỡng đến mức nó giả vờ như hiểu được nhiều nhiệm vụ. Nhưng nó không có sự hiểu biết, ý định hay cơ chế kiểm soát thực tế một cách có ý thức. Nó tạo ra "phần tiếp theo có thể xảy ra nhất"; Nó không đảm bảo tạo ra "thông tin chính xác nhất". Sự khác biệt này là cơ sở của chủ đề ảo giác mà chúng ta sẽ thảo luận trong các phần tiếp theo.

Những lỗi thường gặp

Những lỗi thường gặp

• Nhầm mô hình với một công cụ tìm kiếm. Mô hình không tìm kiếm trên internet và truy xuất tài nguyên (trừ khi có tính năng tìm kiếm đặc biệt); Tạo văn bản có thể có từ bộ nhớ. Vì vậy, anh ta có thể bịa ra nguồn/con số.
• Nhầm lẫn sự trôi chảy với sự chính xác. Chỉ vì văn bản đẹp và tự tin không có nghĩa là nội dung của nó đúng.
• Mong đợi câu trả lời tương tự mọi lúc. Sự ngẫu nhiên là điều tự nhiên; Lưu kết quả bạn thích cho các nhiệm vụ quan trọng.
• Dán văn bản quá dài, không cần thiết và đẩy giới hạn mã thông báo. Độ dài vừa làm tăng chi phí vừa có thể làm mất tập trung của mô hình; chỉ cần đưa ra bối cảnh cần thiết.

Lưu ý: Chỉ vì người mẫu nói trôi chảy và tự tin không có nghĩa là cô ấy nói đúng. Sự lưu loát là hệ quả tự nhiên của việc ước lượng xác suất; Độ chính xác là thứ phải được kiểm tra riêng biệt và độc lập.

Tóm lại

• AI sáng tạo tạo văn bản từng bước bằng cách dự đoán đoạn có khả năng xảy ra tiếp theo nhất (mã thông báo); xây dựng câu theo từng đoạn.
• Mã thông báo là phần nhỏ hơn của từ và đặt cả giới hạn chi phí và độ dài.
• Ở mỗi bước, mô hình đưa ra danh sách các khả năng; Cài đặt nhiệt độ xác định mức độ ổn định hoặc sáng tạo của đầu ra.
• Sở dĩ có những câu trả lời khác nhau cho cùng một câu hỏi là do tính ngẫu nhiên vốn có trong quá trình này.
• Người mẫu nói trôi chảy nhưng điều này không đảm bảo rằng cô ấy đang nói sự thật; Sự lưu loát và chính xác là những điều khác nhau.

Nhiệm vụ ứng dụng

Giao cho công cụ AI của bạn cùng một nhiệm vụ sáng tạo (ví dụ: “viết lời cảm ơn nhanh”) hai lần liên tiếp và quan sát kết quả đầu ra khác nhau như thế nào. Sau đó, lặp lại tác vụ tương tự với mẫu “Lời nhắc mạnh mẽ”, thêm ngữ cảnh và ghi lại sự khác biệt về chất lượng giữa hai kết quả.

Danh sách kiểm tra

• [ ] Tôi có thể giải thích rằng mô hình tạo ra văn bản bằng cách "dự đoán đoạn tiếp theo có thể".
• Tôi biết [ ] Token là gì và tại sao nó đại diện cho chi phí/giới hạn.
• [ ] Tôi có thể phân biệt giữa những công việc đòi hỏi sự quyết tâm và những công việc đòi hỏi sự sáng tạo.
• [ ] Tôi biết việc nhận được những câu trả lời khác nhau cho cùng một câu hỏi là điều bình thường.
• [ ] Tôi đã hiểu rằng sự trôi chảy không đảm bảo tính chính xác.