Mục lục bài viết

Tính năng Prompt Management và Prompt Flows trong Amazon Bedrock là gì?

Prompt Management trong Amazon Bedrock là tính năng cho phép người dùng tạo, lưu trữ, quản lý và tái sử dụng các prompt (câu lệnh đầu vào) cho các mô hình AI.

Prompt Flows trong Amazon Bedrock là một công cụ cho phép người dùng tạo ra các luồng công việc phức tạp bằng cách kết hợp nhiều prompt và mô hình AI khác nhau.

Vòng đời của câu lệnh đầu vào (prompt)

  • Design: Đây là bước đầu tạo ra các prompt hiệu quả bằng cách xây dựng prompt với các biến và ngữ cảnh động. Chú trọng đến sự rõ ràng và cụ thể của tình huống
  • Test: Thử nghiệm prompt với nhiều đầu vào khác nhau, so sánh kết quả đầu ra để xác định cách diễn đạt tốt nhất
  • Refine: Cải thiện prompt dựa trên kết quả kiểm thử, điều chỉnh từ ngữ, cấu trúc prompt
  • Catalog: Duy trì các version của prompt trong danh mục, cho phép theo dõi thay đổi và so sánh hiệu suất các version của prompt
  • Deploy: Sau khi prompt đã được tối ưu hóa, chúng sẽ được triển khai thành 1 phần của ứng dụng AI tạo sinh
  • Monitor: Liên tục theo dõi liên tục hiệu suất của prompt trong ứng dụng thực tế, cải tiến để duy trì và nâng cao hiệu quả

Trong suốt vòng đời này, thiết kế prompt và danh mục prompt đóng vai trò quan trọng. Một prompt được thiết kế tốt sẽ nâng cao đáng kể chất lượng và sự phù hợp của các phản hồi do AI tạo ra. Một danh mục prompt toàn diện là nguồn tài nguyên quý giá cho các nhà phát triển, cho phép họ sử dụng các prompt đã được chứng minh và các phương pháp tốt nhất trong các dự án, tiết kiệm cả thời gian và tiền bạc.

Đối với các ứng dụng AI tạo sinh phức tạp hơn, các nhà phát triển thường sử dụng các mẫu thiết kế như chuỗi prompt hoặc định tuyến prompt. Những phương pháp này cho phép định nghĩa logic phức tạp hơn và các luồng công việc động, thường được gọi là luồng prompt.

Chuỗi prompt sử dụng đầu ra của một prompt làm đầu vào cho prompt khác, tạo ra một chuỗi tương tác với mô hình nền tảng (FM) để thực hiện các tác vụ phức tạp hơn. Ví dụ, một chatbot dịch vụ khách hàng có thể ban đầu sử dụng FM để trích xuất thông tin quan trọng về khách hàng và vấn đề của họ, sau đó chuyển các chi tiết này làm đầu vào để gọi một hàm khác hỗ trợ. Sơ đồ sau minh họa quy trình làm việc này.

Định tuyến prompt là quá trình lựa chọn và áp dụng động các prompt khác nhau dựa trên các điều kiện nhất định hoặc bản chất của đầu vào, cho phép tạo ra các ứng dụng AI linh hoạt hơn và nhạy cảm với ngữ cảnh. Ví dụ, một yêu cầu của người dùng đối với trợ lý ngân hàng có thể quyết định động xem câu trả lời có thể được tìm thấy tốt nhất bằng cách sử dụng Tăng cường Truy xuất (RAG) khi được hỏi về chi tiết thẻ tín dụng có sẵn, hoặc gọi một hàm để chạy truy vấn khi người dùng hỏi về số dư tài khoản của họ. Sơ đồ sau minh họa quy trình làm việc này.

Việc kết hợp hai mẫu thiết kế này là phổ biến trong quá trình phát triển ứng dụng AI tạo sinh hiện đại. Bằng cách hiểu và tối ưu hóa từng giai đoạn của vòng đời prompt và sử dụng các kỹ thuật như chuỗi prompt và định tuyến prompt, bạn có thể tạo ra các giải pháp AI tạo sinh mạnh mẽ, hiệu quả và hiệu suất cao hơn.

Thử nghiệm thực tế tính năng “Prompt management”

  1. Truy cập vào Amazon Bedrock → Prompt management → Create prompt
  1. Đặt tên cho prompt sau đó nhấn Create
  1. Dùng prompt builder để chọn model, thiết lập parameter và viết nội dung cho prompt
  1. Kiểm tra hoạt động của prompt bằng cách nhấn Run ta sẽ thấy kết quả như hình trên
  1. Nếu muốn tạo các version của prompt, ta nhấn Create version

Sau đó ta sẽ thấy kết quả có Version 1, Version 2, v.v…

Kết luận

Vậy là hôm nay tôi đã chia sẻ về tính năng Prompt management và Prompt flows trên Amazon Bedrock, hy vọng có thể giúp mọi người bước đầu làm quen với tạo ứng dụng AI tạo sinh trên môi trường aws cloud.