Mục lục bài viết

Meta Llama 3.1 models là gì?

Meta Llama 3.1 models là thế hệ mới nhất của các mô hình ngôn ngữ lớn (Large Language Models – LLMs) được phát triển bởi Meta (trước đây là Facebook). 

Trước đây Meta đã phát triển Llama và Llama 2, được đánh giá khá cao trong cộng đồng AI.

Hiện nay đây là 1 trong những mô hình ngôn ngữ lớn phát triển mở Open Source.

Llama 3.1 bao gồm các mô hình 8B, 70B và 405B tham số, B ở đây tính theo đơn vị tỷ.

Giải thích về tham số:

Khi bạn và tôi hỏi các mô hình dữ liệu lớn thì mặc định là mô hình sẽ trả lời từ ‘bộ nhớ tham số’ của nó, tức là từ kiến ​​thức được lưu trữ trong các tham số của nó do kết quả của quá trình đào tạo trên dữ liệu khổng lồ

Nội dung cập nhật

  • Mô hình Llama 3.1 405B đã được phát hành rộng rãi trên Amazon Bedrock
  • Hỗ trợ độ dài ngữ cảnh 128K
  • Cải thiện khả năng suy luận cho đối thoại đa ngôn ngữ (8 ngôn ngữ)
  • Xử lý thông tin tốt hơn từ văn bản dài
  • Các mô hình Llama 3.1 hiện có sẵn trong Vùng US West (Oregon)

Thử nghiệm thực tế

Truy cập Amazon Bedrock với Region Oregon ta sẽ thấy

Kết luận

Llama 3.1 trên Amazon Bedrock mang đến cho các nhà phát triển một công cụ mạnh mẽ để xây dựng ứng dụng AI tạo sinh với nhiều cải tiến đáng kể.

Ngoài ra, vì là Open Source cho nên chúng ta có thể tùy chỉnh mô hình phù hợp với mong muốn của dự án và khách hàng.