Dịch vụ AI tổng hợp của Amazon Bedrock đã được cung cấp chính thức trên AWS

Amazon Bedrock là gì?

Amazon Bedrock là một dịch vụ quản lý cung cấp các Mô hình Cơ sở (Foundation Models – FM) từ Amazon và các công ty AI (trí tuệ nhân tạo) hàng đầu thông qua giao diện lập trình ứng dụng (API). Điều này cho phép bạn lựa chọn từ nhiều Mô hình Cơ sở và tìm ra lựa chọn tốt nhất phù hợp với nhu cầu cụ thể của bạn.

Các Mô hình Cơ sở hoạt động trên nền tảng serverless, loại bỏ việc phải quản lý việc khởi động và dừng mô hình, đồng thời cho phép tích hợp LLM (Local Language Model) vào ứng dụng một cách linh hoạt. Với việc sử dụng mạng nội bộ của AWS, dịch vụ này đảm bảo mức độ an toàn và bảo mật cao khi sử dụng.

Mô hình có thể sử dụng

Amazon Bedrock là một dịch vụ có thể chọn các mô hình cơ sở có tính năng cao từ các công ty AI tiên tiến như AI21 Labs, Anthropic, Cohere, Stability AI, Amazon.

Dưới đây Sunny Cloud sẽ giới thiệu từng mô hình.

AI21 Labs「Jurassic-2 series」

AI21 Labs là một công ty xử lý ngôn ngữ tự nhiên (NLP) ở Israel, đã công bố một mô hình ngôn ngữ thế hệ tiếp theo có thể tùy chỉnh theo nhiệm vụ cụ thể.

So với Jurassic-1 version, nó có tính năng tuân theo mệnh lệnh hight level và rút ngắn thời gian phản hồi tối đa 30%. Ở mô hình J2, bạn có thể áp dụng cho bất kỳ nhiệm vụ ngôn ngữ nào bằng cách tạo ra những mẫu thích hợp, bao gồm giải thích nhiệm vụ và một số ví dụ.

Anthropic「Claude」

Anthropic là một công ty được thành lập bởi các kỹ sư từ OpenAI, những người đã phát triển ChatGPT và DALL-E2 (AI tạo ra hình ảnh) vào năm 2021. Đây là công ty có tầm ảnh hưởng lớn đã nhận được số tiền đầu tư khủng từ Google và Amazon sau năm 2022.

Vào tháng 7 năm 2023, Anthropic đã phát hành phiên bản mới của Claude (mô hình AI tạo text) có tên là Claude 2. Tại AWS Summit New York, phần mở rộng của Bedrock hỗ trợ cho Claude 2 của Anthropic đã được công bố.

Cohere「Command」

Tại AWS Summit New York tháng 7 năm 2023, phần mở rộng Bedrock hỗ trợ cho Cohere đã được công bố.

Cohere đang phát triển một nền tảng AI doanh nghiệp và các mô hình cơ sở tiên tiến. Mô hình của Cohere cung cấp giao diện trực quan để tạo, tìm kiếm và tóm tắt thông tin.

Command là mô hình tạo ngôn ngữ của Cohere được training để làm theo chỉ thị của người dùng, có khả năng tóm tắt, viết bài, trò chuyện, trích xuất và trả lời câu hỏi.

Stability AI「Stable Diffusion」

Stability AI là một công ty AI mở, dựa trên hỗ trợ cộng đồng, cung cấp các mô hình cơ sở để tạo ra văn bản, hình ảnh, âm thanh, video, code, v.v. từ các lệnh text đơn giản. Đây là một AI tạo hình ảnh mã nguồn mở phổ biến trên thế giới.

Amazon「Titan」

Là một mô hình ngôn ngữ quy mô lớn có tính sáng tạo cho các nhiệm vụ như tóm tắt văn bản, tạo văn bản, phân loại, Q&A dạng tự do, trích xuất thông tin. Đây là dịch vụ được tạo ra bằng kinh nghiệm tích lũy qua nhiều thập kỷ của công ty.

Cơ cấu chi phí

Trong mô hình tạo văn bản bạn sẽ bị tính phí cho cả token đầu vào đã xử lý và token được tạo ra. Mô hình nhúng văn bản sẽ tính phí dựa trên token đầu vào đã xử lý. Mô hình tạo hình ảnh sẽ tính phí dựa trên hình ảnh đã tạo.

Hệ thống phí được chia thành hai loại: On-Demand và Provisioned Throughput.

Provisioned Throughput

Đảm bảo lưu lượng của bạn khi bạn cam kết thời gian sử dụng. Hệ thống chủ yếu dành cho các nhiệm vụ khối lượng lớn và ổn định.

On-Demand

Đây là mô hình tính phí theo lượng sử dụng. Bạn sẽ trả tiền tuỳ thuộc vào mức độ sử dụng của mình.

Giới hạn sử dụng tối đa 60 yêu cầu mỗi phút và 10,000 token đầu ra mỗi phút, nếu bạn sử dụng vượt quá giới hạn này, có thể sẽ bị giảm lưu lượng, trong trường hợp đó bạn nên sử dụng Provisioned Throughput.

Bảng dưới đây cung cấp mức phí của phương thức On-Demand tại thời điểm GA tháng 9 năm 2023. Bạn có thể kiểm tra mức phí mới nhất tại đây.

AI21 Labs

Mô hình AI21	Giá cho 1000 token đầu vào	Giá cho 1000 token đầu ra
Jurassic-2 Mid	$0.01250	$0.01250
Jurassic-2 Ultra	$0.01880	$0.01880

Amazon

Mô hình azon Titan	Giá cho 1000 token đầu vào	Giá cho 1000 token đầu ra
Titan Text – Lite	$0.00030	$0.00040
Titan Text – Express	$0.00130	$0.00170
Titan Embeddings	$0.00010	n/a

Anthropic

Mô hình Anthropic	Giá cho 1000 token đầu vào	Giá cho 1000 token đầu ra
Claude Instant	$0.00163	$0.00551
Claude	$0.01102	$0.03268

Cohere

Mô hình Cohere	Giá cho 1000 token đầu vào	Giá cho 1000 token đầu ra
Command	$0.01500	$0.02000

Stability AI

Mô hình Stability AI	Image Resolution	Standard quality (<51 steps)
SDXL0.8	512×512 hoặc nhỏ hơn	$0.018/ảnh
Lớn hơn 512×512	$0.036/ảnh	$0.072/ảnh

Các khu vực được hỗ trợ

Tại thời điểm 28 tháng 9 năm 2023, bạn có thể sử dụng Amazon Bedrock ở 4 khu vực sau:

– Bắc Virginia (us-east-1)
– Ohio (us-east-2)
– Oregon (us-west-2) 
– Singapore (ap-southeast-1)

Phần thử nghiệm

Truy cập Amazon Bedrock từ management console. Ở đây, tôi sử dụng vùng Oregon.

Bắt đầu

Nhấp vào “Get Started”.

Đây là màn hình Overview.

Kiểm tra phần Model Access, ở chế độ Preview, ta thấy được Amazon Bedrock yêu cầu đăng kí đối với Claude và những mục không thể truy cập.

Sau khi xác nhận cho phép sử dụng, nhấp vào Save Changes.

Một thông báo sẽ hiển thị “Model access request submitted” (Đã gửi yêu cầu truy cập mô hình)

Tiếp theo, kiểm tra màn hình Base models. Bạn có thể sử dụng mô hình cơ sở của AI tạo ra và xây dựng, mở rộng ứng dụng AI tạo ra. 

Kiểm tra màn hình Custom models. Bạn có thể mở rộng mô hình cơ sở đã được đào tạo trước.

AI21 Labs [Jurassic-2 series]

Từ màn hình Text playgrounds, bạn có thể chọn Jurassic-2 Ultra và Jurassic-2 Mid, có thể sử dụng để tạo và phân loại văn bản.

Ứng dụng này có hỗ trợ tiếng Nhật

Tạo hình ảnh bằng Stability AI

Nhập ý tưởng của bạn vào “Prompt” sau đó bấm “Run” để chạy ứng dụng. Hình ảnh sẽ được tạo ra theo ý tưởng của bạn.

Tổng kết

Amazon Bedrock không chỉ cung cấp các mô hình cơ sở từ các công ty hàng đầu về trí tuệ nhân tạo, mà còn tạo điều kiện cho việc lựa chọn linh hoạt và an toàn. Với cơ chế hoạt động trên nền tảng serverless, dịch vụ này giúp tích hợp LLM vào ứng dụng một cách linh hoạt và bảo mật. Đây là một cơ hội khám phá các mô hình trí tuệ nhân tạo từ các công ty như AI21 Labs, Anthropic, Cohere, Stability AI và Amazon, mở ra tiềm năng vô hạn cho các ứng dụng thông minh và sáng tạo.