Cloud Services Archives - Sunny Cloud | AWS Billing và giải pháp AWS toàn diện

Thiết Lập Trend Micro Vision One Cho AWS Account

Sunny Cloud — Tue, 28 Oct 2025 01:49:41 +0000

Vision One Là Gì?

Trend Micro Vision One là một nền tảng bảo mật giúp giám sát và bảo vệ các container, phát hiện lỗ hổng bảo mật, và chặn các mối đe dọa từ khi build cho đến lúc chạy trên production.

Chuẩn Bị

Cần có:

Tài khoản AWS
Đã cài Terraform, Python
Tài khoản Trend Vision One, nếu chưa có thì vào link bên dưới đăng kí

https://www.trendmicro.com/en_us/business/products

Các Bước Thiết Lập

Bước 1: Kết Nối AWS Account Với Vision One

Đầu tiên, bạn cần “kết bạn” giữa AWS và Vision One:

Đăng nhập vào Trend Vision One console

Vào Cloud Security → Container Security

Chọn Continue with Amazon ECS

Chọn deployment method, ở đây tôi chọn:
- Terraform
- Single AWS Account

Nhập vào aws account, region

Bước 2: Deploy Terraform Template

Làm theo hướng dẫn từ TrendMicro

Download the Terraform Template
Sau đó chạy các lệnh sau:

unzip -o cloud-account-management-terraform-package-1761620542405244073.zip -d

 cloud-account-management-terraform-package

cd cloud-account-management-terraform-package

./deploy.sh

Nếu thành công, sẽ thấy màn hình bên dưới:

Bây giờ sẽ thấy được AWS Account đã thiết lập:

Kết Luận

Vậy là AWS Account đã được bảo vệ bởi TrendMicro VisionOne. Đây là cách để nâng cao security cho hệ thống của các doanh nghiệp được cộng đồng rất tin tưởng.
Hy vọng bài viết có ích và cảm ơn độc giả!

The post Thiết Lập Trend Micro Vision One Cho AWS Account appeared first on Sunny Cloud | AWS Billing và giải pháp AWS toàn diện.

AWS Giới Thiệu Công Cụ MCP Server – Quản Lý Chi Phí Thông Minh Hơn Với AI

Sunny Cloud — Wed, 22 Oct 2025 02:14:00 +0000

AWS chính thức ra mắt MCP server cho Billing and Cost Management – một công cụ mã nguồn mở giúp quản lý chi phí AWS thông minh hơn thông qua các trợ lý AI.

https://aws.amazon.com/about-aws/whats-new/2025/08/aws-billing-cost-management-mcp-server

MCP Server Là Gì?

MCP (Model Context Protocol) server là một “cầu nối” cho phép các trợ lý AI như Claude Desktop, VS Code, Amazon Q Developer CLI… có thể truy cập và phân tích dữ liệu chi phí AWS của bạn.

Nói đơn giản: Thay vì phải tự mình kiểm tra từng báo cáo chi phí phức tạp, giờ chỉ cần hỏi AI và nhận câu trả lời ngay lập tức.

Các lợi ích chính khi quản lý chi phí có AI hỗ trợ

1. Phân Tích Chi Phí Dễ Dàng

Xem chi phí quá khứ và dự báo tương lai
So sánh chi phí giữa các tháng
Phát hiện chi phí bất thường tự động

2. Tối Ưu Hóa Chi Tiêu

Nhận gợi ý tiết kiệm chi phí cho EC2, Lambda, EBS
Phân tích cơ hội mua Savings Plans và Reserved Instances
Tìm kiếm cơ hội chuyển sang AWS Graviton để tiết kiệm

3. Giám Sát Free Tier

Theo dõi sử dụng Free Tier
Tránh phát sinh chi phí ngoài ý muốn

4. Phân Tích Storage (S3)

Truy vấn dữ liệu Storage Lens bằng SQL
Phân tích chi phí lưu trữ theo bucket, region
Tìm cơ hội tối ưu hóa lưu trữ

Cách Cài Đặt

Bước 1: Chuẩn Bị

Có tài khoản AWS với quyền truy cập các API Billing
Cấu hình AWS credentials bằng lệnh dưới, điền thông tin Access Key, Secret Key vào

aws configure

Cài đặt uv từ Astral

https://docs.astral.sh/uv/getting-started/installation

curl -LsSf https://astral.sh/uv/install.sh | sh

Cài Python bằng lệnh

uv python install 3.10

Bước 2: Cài Đặt MCP Server

Với Linux/MacOS:

Cấu hình MCP Server trong MCP Client của bạn (ví dụ: đối với Amazon Q Developer CLI, hãy tạo ~/.aws/amazonq/mcp.json):

{
  "mcpServers": {
    "awslabs.billing-cost-management-mcp-server": {
      "command": "uvx",
      "args": [
         "awslabs.billing-cost-management-mcp-server@latest"
      ],
      "env": {
        "AWS_PROFILE": "your-aws-profile",
        "AWS_REGION": "ap-northeast-1"
      }
    }
  }
}

Bước 3: Kết Nối Với AI Assistant

MCP server hoạt động với nhiều công cụ AI:

Amazon Q Developer (Console và CLI)
Claude Desktop
Visual Studio Code
Kiro IDE

Bài viết này tôi dùng Amazon Q

Nếu thành công bạn sẽ thấy MCP server cho Billing and Cost Management được load như sau:

Các Tính Năng Chính

1. Cost Explorer

Phân tích chi phí lịch sử, dự báo chi phí, theo dõi xu hướng sử dụng

2. Budget Monitoring

Kiểm tra ngân sách hiện tại và cảnh báo vượt ngưỡng

3. Compute Optimizer

Nhận khuyến nghị tối ưu cho các dịch vụ compute

4. Cost Optimization Hub

Tập trung các cơ hội tiết kiệm chi phí

5. Storage Lens

Phân tích chi tiết chi phí lưu trữ S3

Ví Dụ Sử Dụng Thực Tế

Sau khi cài đặt, tôi hỏi AI câu sau:

check cost this month?

→ và nhận được câu trả lời như hình

Lưu Ý Quan Trọng

Về Bảo Mật

MCP server sử dụng AWS credentials của bạn
Cần cấp đủ quyền IAM cho các API cần thiết
Dữ liệu được xử lý an toàn theo tiêu chuẩn AWS

Kết Luận

AWS Billing and Cost Management MCP server là giúp đơn giản hóa quản lý chi phí AWS. Thay vì phải đọc hàng chục báo cáo phức tạp, giờ bạn chỉ cần trò chuyện với AI để hiểu rõ chi phí và tìm cách tối ưu.

Hy vọng bài viết có ích và cảm ơn độc giả!

The post AWS Giới Thiệu Công Cụ MCP Server – Quản Lý Chi Phí Thông Minh Hơn Với AI appeared first on Sunny Cloud | AWS Billing và giải pháp AWS toàn diện.

Hướng dẫn bắt đầu sử dụng Terraform tạo cơ sở hạ tầng trên AWS

Sunny Cloud — Wed, 20 Aug 2025 02:01:00 +0000

Mục lục bài viết

Trong số các công cụ IaC, Terraform được sử dụng khá nhiều nhờ những lợi ích như cộng đồng lớn, hỗ trợ nhiều cloud provider như AWS, AZURE, GCP.

Terraform là gì?

Với Terraform, bạn viết code để mô tả những gì cần tạo cho cơ sở hạ tầng (server, database, network…), và Terraform sẽ tự động tạo cho bạn.

Tại sao nên dùng Terraform?

1. Tiết kiệm thời gian

Tạo 10 server?Bạn chỉ cần copy code và đổi tên là xong

2. Không sợ sai sót

Code một lần, chạy nhiều lần – kết quả luôn giống nhau
Dễ dàng xem lại và sửa lỗi

3. Quản lý dễ dàng

Xóa mọi thứ chỉ với lệnh terraform destroy
Có thể dùng tạo các cơ sở hạ tầng của nhiều cloud provider khác nhau như AWS, AZURE, GCP, …

Cài đặt Terraform

Trên Windows

Tải file từ terraform.io/downloads rồi tự cài đặt

Sau đó kiểm tra bằng lệnh:

terraform version

Trên Mac

brew install terraform

Trên Ubuntu/Debian

wget -O - https://apt.releases.hashicorp.com/gpg | sudo gpg --dearmor -o /usr/share/keyrings/hashicorp-archive-keyring.gpg

echo "deb [arch=$(dpkg --print-architecture) signed-by=/usr/share/keyrings/hashicorp-archive-keyring.gpg] https://apt.releases.hashicorp.com $(grep -oP '(?<=UBUNTU_CODENAME=).*' /etc/os-release || lsb_release -cs) main" | sudo tee /etc/apt/sources.list.d/hashicorp.list

sudo apt update && sudo apt install terraform

Bài viết này tôi làm trên Ubuntu 24.04.2 và có kết quả như hình:

Chuẩn bị AWS Account

Bạn cần có:

AWS Account
Access Key và Secret Key – Lấy từ IAM User trong AWS Console

Tạo S3 Bucket

Bước 1: Tạo file cấu hình

Tạo thư mục mới và file main.tf:

# The Easiest Terraform Project on AWS

# This creates a simple S3 bucket

terraform {

  required_providers {

    aws = {

      source  = "hashicorp/aws"

      version = "~> 5.0"

    }

  }

}

provider "aws" {

  region = "ap-northeast-1"  # Tokyo region

}

# Create a simple S3 bucket

resource "aws_s3_bucket" "my_first_bucket" {

  bucket = "my-first-terraform-bucket-${random_string.bucket_suffix.result}"

  tags = {

    Name        = "My First Terraform Bucket"

    Environment = "Learning"

    CreatedBy   = "Terraform"

  }

}

# Generate random string for unique bucket name

resource "random_string" "bucket_suffix" {

  length  = 8

  special = false

  upper   = false

}

# Output the bucket name

output "bucket_name" {

  value = aws_s3_bucket.my_first_bucket.bucket

}

output "bucket_arn" {

  value = aws_s3_bucket.my_first_bucket.arn

}

Lưu ý bảo mật:

Trong thực tế, KHÔNG BAO GIỜ để key trực tiếp trong code. Hãy dùng environment variables:

export AWS_ACCESS_KEY_ID="your_access_key"

export AWS_SECRET_ACCESS_KEY="your_secret_key"

Bước 2: Khởi tạo Terraform

Mở terminal trong thư mục chứa file main.tf:

terraform init

Lệnh này sẽ tải các plugin cần thiết cho AWS. Chờ khoảng 15 phút, nếu thành công sẽ cho kết quả hiển thị như sau:

Bước 3: Xem Terraform sẽ làm gì

terraform plan

Terraform sẽ hiển thị “kế hoạch” – những gì sẽ được tạo. Đọc kỹ để đảm bảo đúng ý bạn.

Bước 4: Tạo thật trên AWS

terraform apply

Gõ yes khi được hỏi. Đợi khoảng 30 giây, bucket s3 sẽ xuất hiện trên AWS!

Bước 5: Kiểm tra kết quả

Vào AWS Console → s3

Bước 6: Clean up

terraform destroy

Variables – Làm code linh hoạt hơn

Thay vì hardcode mọi thứ, dùng variables để dễ thay đổi:

variables.tf:

variable "instance_type" {

  description = "Loai EC2 instance"

  default     = "t2.micro"

}

variable "server_count" {

  description = "So luong server can tao"

  default     = 1

}

main.tf:

resource "aws_instance" "app_server" {

  count         = var.server_count

  ami           = "ami-0df7a207adb9748c7"

  instance_type = var.instance_type

  tags = {

    Name = "App-Server-${count.index + 1}"

  }

}

Lệnh Terraform quan trọng

terraform init      # Khởi tạo project

terraform plan      # Xem trước thay đổi

terraform apply     # Áp dụng thay đổi

terraform destroy   # Xóa tất cả resource

terraform fmt       # Format code

terraform validate  # Kiểm tra syntax

Các Lưu Ý Quan Trọng

1. Luôn dùng terraform plan trước apply

Đừng bao giờ apply mà không xem plan trước.

2. Quản lý State file cẩn thận

Terraform lưu trạng thái trong file terraform.tfstate. File này QUAN TRỌNG:

Backup thường xuyên
Không commit vào Git (chứa thông tin nhạy cảm)
Nên dùng remote backend (S3) cho team

3. Sử dụng workspace cho môi trường khác nhau

terraform workspace new dev

terraform workspace new production

Tham khảo

Documentation chính thức: terraform.io/docs
AWS Provider docs: registry.terraform.io/providers/hashicorp/aws

Kết luận

Terraform mang đến khả năng tạo cơ sở hạ tầng bằng code với nhiều ưu điểm như tiết kiệm thời gian, hỗ trợ nhiều cloud provider.

Hy vọng bài viết có ích và cảm ơn độc giả!

The post Hướng dẫn bắt đầu sử dụng Terraform tạo cơ sở hạ tầng trên AWS appeared first on Sunny Cloud | AWS Billing và giải pháp AWS toàn diện.

Claude Opus 4.1 Đã Có Mặt Trên Amazon Bedrock

Sunny Cloud — Thu, 07 Aug 2025 04:07:00 +0000

Mục lục bài viết

Anthropic vừa công bố Claude Opus 4.1, mô hình AI tiên tiến nhất của hãng, đã chính thức có mặt trên nền tảng Amazon Bedrock. Tham khảo ở đây

https://aws.amazon.com/about-aws/whats-new/2025/08/anthropic-claude-opus-4-1-amazon-bedrock

Amazon Bedrock Là Gì?

Nói về Amazon Bedrock, đây là dịch vụ được quản lý toàn diện của AWS, cho phép xây dựng và mở rộng quy mô các ứng dụng AI tạo sinh một cách dễ dàng. Bedrock cung cấp quyền truy cập vào nhiều mô hình foundation từ các nhà cung cấp AI hàng đầu, và giờ đây bao gồm cả Claude Opus 4.1.

Claude 4: Mô Hình Hybrid Reasoning

Công Nghệ Hybrid Reasoning

Dòng Claude 4, bao gồm Opus 4.1 và Sonnet 4, là những mô hình hybrid reasoning tiên phong với hai chế độ hoạt động:

Phản hồi tức thời: Cho những tác vụ cần tốc độ
Tư duy mở rộng: Cho những vấn đề cần suy luận sâu sắc

Những mô hình foundation này được phát triển đặc biệt để xây dựng các AI agents tiên tiến có khả năng:

Phân tích hàng nghìn nguồn dữ liệu
Thực thi các tác vụ kéo dài
Viết nội dung chất lượng cao
Thực hiện các hành động phức tạp

Nói Về Claude Opus 4.1

Claude Opus 4.1 được giới thiệu là mô hình mạnh mẽ nhất của Anthropic, được thiết kế như một “drop-in replacement” (thay thế trực tiếp) cho Opus 4, mang đến hiệu suất và độ chính xác vượt trội cho các ứng dụng coding và agentic trong thực tế.

Khả Năng Coding Tiên Tiến

Opus 4.1 nổi bật với khả năng:

Lập kế hoạch độc lập: Tự động phân tích và lên kế hoạch cho các dự án phát triển phức tạp
Thực thi end-to-end: Hoàn thành toàn bộ quy trình phát triển từ đầu đến cuối
Thích ứng phong cách: Học và điều chỉnh theo phong cách coding của bạn
Duy trì chất lượng cao: Đảm bảo code sạch, hiệu quả và dễ bảo trì

Frontend Development

Một trong những cải tiến đáng chú ý nhất là khả năng:

Tạo code frontend với chất lượng visual output vượt trội
Xử lý logic phức tạp một cách hiệu quả
Tối ưu hóa trải nghiệm người dùng

Ví dụ:

Hình này là ảnh INPUT đầu vào:

Claude Opus 4.1 cho kết quả OUTPUT đầu ra:

Điều đó có nghĩa, nói về khả năng Frontend Development của Opus 4.1 thì nó đang dẫn đầu

Long-Horizon Task Handling

Với context window lên đến 200K token, Opus 4.1 có thể:

Xử lý các tác vụ kéo dài trong thời gian dài
Duy trì context và logic xuyên suốt chuỗi hành động phức tạp
Giải quyết vấn đề đa tầng với độ chính xác cao

Khả Dụng Trên Amazon Bedrock

Vùng Khả Dụng

Cho tới thời điểm hiện tại Claude Opus 4.1 đã sẵn sàng ở:

US West (Oregon)
US East (N. Virginia)
US East (Ohio)

Cách Bắt Đầu

Để sử dụng Claude Opus 4.1 trên Amazon Bedrock:

Truy cập Amazon Bedrock console
Vào dịch vụ Amazon Bedrock → Configure and learn → Model access

Sau đó cấp quyền sử dụng bằng “Enable specific models” theo hướng dẫn sau:

Lợi Ích Khi Sử Dụng Claude Trên Bedrock

1. Tích Hợp Dễ

Tích hợp dễ dàng với hệ sinh thái AWS
Sử dụng các dịch vụ AWS khác như S3, Lambda, DynamoDB
Bảo mật và compliance theo tiêu chuẩn AWS

2. Scalability

Mở rộng quy mô theo nhu cầu
Không cần lo lắng về infrastructure
Pay-as-you-go pricing model

3. Enterprise-Ready

Bảo mật cấp doanh nghiệp
Compliance với các tiêu chuẩn quốc tế
Support 24/7 từ AWS

4. Multi-Model Strategy

Truy cập nhiều mô hình AI từ một platform
So sánh và chọn mô hình phù hợp
Flexibility trong deployment

Use Cases Thực Tế

Trong Phát Triển Phần Mềm

Ví dụ: Một công ty fintech sử dụng Claude Opus 4.1 để:
– Tự động review code và suggest improvements
– Generate test cases và documentation

Trong Research & Development

Ví dụ: Phòng R&D sử dụng để:
– Tổng hợp research findings
– Viết technical reports

Trong Customer Service

Ví dụ: Xây dựng AI agents để:
– Xử lý queries phức tạp
– Cá nhân hóa responses

Kết Luận:

Claude Opus 4.1 trên Amazon Bedrock không chỉ là một công cụ – nó thực sự là 1 trợ lý với khả năng ứng dụng rộng rãi tùy vào tình hình thực tế.

Hy vọng bài viết hữu ích và cảm ơn độc giả đọc đến cuối!

The post Claude Opus 4.1 Đã Có Mặt Trên Amazon Bedrock appeared first on Sunny Cloud | AWS Billing và giải pháp AWS toàn diện.

Hiện đại hóa AWS Architecture Diagrams với Amazon Q CLI và draw.io

Sunny Cloud — Fri, 18 Jul 2025 02:40:00 +0000

Bạn có bao nhiêu architecture diagram đang “nằm im” trong file PNG, JPEG mà không thể chỉnh sửa? Bài viết này hướng dẫn cách dùng Amazon Q CLI, MCP Server và draw.io để biến những diagram cũ thành file có thể edit trong vài phút.

Tài liệu tham khảo:

Vấn đề thực tế

Tôi được giao một AWS architecture diagram cũ (file PNG) với yêu cầu:

Thêm multiple Availability Zones
Hiển thị service replication giữa các AZs
Cập nhật theo multi-AZ deployment mới

Vấn đề: Không có file .drawio, .vsdx hay bất kỳ định dạng nào có thể edit. Chỉ có một hình ảnh tĩnh.

Thách thức phổ biến

Không có file gốc: Chỉ có PNG/JPEG từ người trước để lại
Diagram lỗi thời: Không phản ánh infrastructure hiện tại
Thay đổi thường xuyên: Infra update liên tục nhưng diagram không theo kịp
Mất context: Nhiều team handoff, không ai nhớ chi tiết

Giải pháp: Dùng AI-Powered Diagram

Sử dụng :

Amazon Q CLI: AI assistant đọc và phân tích diagram
AWS Diagram MCP Server: Tự động generate diagram mới
draw.io: Export thành file có thể edit

Quy trình 5 bước

Bước 1: Chuẩn bị

File diagram cũ (vd: aws_architecture.png)
AWS Diagram MCP Server đã cài và cấu hình xong, nếu chưa có tham khảo https://github.com/awslabs/mcp/tree/main/src/aws-diagram-mcp-server
Amazon Q CLI đã cài đặt và config
Nếu chưa cài tham khảo link này để cài đặt https://dev.to/devsubha/how-to-install-amazon-q-cli-on-windows-step-by-step-guide-for-beginners-2g29

q chat

Nếu thành công sẽ hiển thị như sau:

Bước 2: Yêu cầu Q đọc diagram

can you locate this file /Users/yourname/Downloads/aws_architecture.png

Amazon Q sẽ:

Parse file image
Nhận diện AWS components (ECS, ALB, RDS, S3…)
Mô tả diagram bằng text

Bước 3: Tạo file DrawIO

create a draw.io file for /your foler/filename.png:

Bước 4: Export diagram ra ngoài window bằng lệnh

cp /your foler/filename.drawio /mnt/c/Users/yourname/Desktop

Bước 5: Edit trong draw.io

Mở draw.io
File → Open From Device → Chọn filename.drawio
Tinh chỉnh icons, spacing, thêm annotations

Best Practices

1. Prompt rõ ràng

"Update the diagram to show internal load balancer in private subnets, 

and replication between RDS in AZ1 and AZ2"

2. Tổ chức file

Dùng folder riêng như ~/generated-diagrams để quản lý outputs

3. Yêu cầu điều chỉnh layout

"Rebuild the layout with improved spacing between AZ components 

and more visual clarity for VPC boundaries"

4. Custom sau trong draw.io

Drag-drop icons, thêm branding, fine-tune vị trí

Kết luận

Amazon Q CLI + MCP Server + draw.io biến bảo trì aws architecture diagrams thành công việc đơn giản hơn rất nhiều.

Thay vì vẽ lại từ đầu, bạn có thể:

Đọc diagram cũ bằng AI
Update theo yêu cầu mới
Export thành file editable
Collaborate với team dễ dàng

Cảm ơn độc giả đã đọc đến cuối bài!

The post Hiện đại hóa AWS Architecture Diagrams với Amazon Q CLI và draw.io appeared first on Sunny Cloud | AWS Billing và giải pháp AWS toàn diện.

Amazon Bedrock: Citations API và PDF Support cho Claude Models

Sunny Cloud — Wed, 02 Jul 2025 02:56:00 +0000

Mục lục bài viết

Giới thiệu
Citations API là gì?
PDF Support là gì?
Các models hỗ trợ:
Cách sử dụng
- Cấu trúc DocumentBlock
- Ví dụ 1: Đọc PDF và yêu cầu trích dẫn
Kết luận

Giới thiệu

Amazon Bedrock vừa ra mắt hai tính năng mới cho các Claude Models: Citations API và PDF Support. Hai tính năng này giúp xây dựng ứng dụng AI đáng tin cậy hơn và xử lý tài liệu tốt hơn.

Nguồn: https://aws.amazon.com/about-aws/whats-new/2025/06/citations-api-pdf-claude-models-amazon-bedrock

Citations API là gì?

Citations API cho phép Claude models chỉ ra chính xác đoạn văn bản nào trong tài liệu được dùng để tạo câu trả lời.

Lợi ích chính

Người dùng có thể kiểm tra nguồn thông tin
Biết được AI dựa vào đâu để đưa ra câu trả lời
Tăng độ tin cậy cho ứng dụng

PDF Support là gì?

PDF Support cho phép Claude models:

Đọc và hiểu nội dung file PDF
Phân tích biểu đồ và hình ảnh trong PDF
Xử lý các tài liệu có cấu trúc phức tạp

Các models hỗ trợ:

Các tính năng này hoạt động với:

Claude Opus 4
Claude Sonnet 4
Claude Sonnet 3.7
Claude Sonnet 3.5v2

Cách sử dụng

Cấu trúc DocumentBlock

Khi gửi tài liệu cho Claude, bạn cần sử dụng cấu trúc sau:

document_block = {

    "name": "Tên tài liệu",

    "source": {

        # Nội dung tài liệu

    },

    "citations": {

        # Cấu hình trích dẫn

    },

    "context": "Thông tin bổ sung về tài liệu",

    "format": "pdf"  # hoặc csv, doc, docx, xls, xlsx, html, txt, md

}

Ví dụ 1: Đọc PDF và yêu cầu trích dẫn

import boto3

import json

import base64

# Tạo client

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

# Đọc file PDF

with open('tai_lieu.pdf', 'rb') as f:

    pdf_content = f.read()

# Tạo request

request_body = {

    "anthropic_version": "bedrock-2023-05-31",

    "messages": [

        {

            "role": "user",

            "content": [

                {

                    "type": "document",

                    "document": {

                        "name": "Tài liệu nghiên cứu",

                        "source": {

                            "bytes": base64.b64encode(pdf_content).decode('utf-8')

                        },

                        "format": "pdf",

                        "citations": {

                            "enabled": True

                        }

                    }

                },

                {

                    "type": "text",

                    "text": "Tóm tắt nội dung chính và cho biết thông tin lấy từ đâu."

                }

            ]

        }

    ],

    "max_tokens": 2000,

    "temperature": 0.3

}

# Gọi API

response = bedrock.invoke_model(

    modelId="anthropic.claude-3-sonnet-20240229-v1:0",

    body=json.dumps(request_body)

)

# Xem kết quả

result = json.loads(response['body'].read())

print(result['content'][0]['text'])

Kết luận

Tính năng Citations API và PDF Support giúp Amazon Bedrock trở thành công cụ mạnh mẽ hơn cho việc trích dẫn nguồn chính xác và xử lý PDF giúp xây dựng các ứng dụng AI đáng tin cậy hơn.
Cảm ơn độc giả đọc đến cuối bài viết!

The post Amazon Bedrock: Citations API và PDF Support cho Claude Models appeared first on Sunny Cloud | AWS Billing và giải pháp AWS toàn diện.

Amazon SageMaker Distribution: Docker Image để làm AI

Sunny Cloud — Wed, 25 Jun 2025 03:05:00 +0000

Mục lục bài viết

SageMaker Distribution là gì?
Cách sử dụng
- Trên laptop cá nhân
Kết luận

Khi cài đặt môi trường cho machine learning, thường sẽ gặp các vấn đề như Conflict giữa TensorFlow và PyTorch, Numpy không tương thích với Pandas. Cho nên Amazon SageMaker Distribution sinh ra để giải quyết triệt để những khó khăn này.

SageMaker Distribution là gì?

SageMaker Distribution là kho lưu trữ các frameworks, library, tools cần thiết cho việt huấn luyện AI, nó đã có sẵn mọi thứ, đã test kỹ, chỉ việc code

Nghĩa là đã có:

Deep Learning Frameworks

PyTorch – Cho những ai thích flexibility
TensorFlow – Dành cho fan của Google
Keras – Simple is best

Data Science Essentials

NumPy, Pandas – Những thư viện cần thiết cho data science
Scikit-learn – ML algorithms đủ loại
Matplotlib, Seaborn – Vẽ chart rất đẹp

Development Tools

JupyterLab – IDE yêu thích của data scientists
Git, Conda – Version control và package management

Điểm đặc biệt ở đây là:

Tất cả đã compatible – Không lo conflict
Versions mới nhất – Always up-to-date
CPU và GPU variants – Tùy chọn theo nhu cầu

Cách sử dụng

Trên laptop cá nhân

# Pull image

export ECR_IMAGE_ID='public.ecr.aws/sagemaker/sagemaker-distribution:latest-cpu'

# Run với JupyterLab

docker run -it \

    -p 8888:8888 \

    -v `pwd`/my-notebooks:/home/sagemaker-user/notebooks \

    $ECR_IMAGE_ID jupyter-lab --no-browser --ip=0.0.0.0

# Mở browser: http://127.0.0.1:8888/lab?token=xxx

Pro tip: Mount folder local để save notebooks!

Kết luận

Amazon SageMaker Distribution giải quyết các khó khăn trong quá trình huấn luyện mô hình AI như conflict thư viện, lỗi cài đặt, … giúp tiết kiệm thời gian công sức rất nhiều.

Có thể tham khảo repo sau để hiện thực, cảm ơn đã đọc đến cuối bài viết!

GitHub repo

The post Amazon SageMaker Distribution: Docker Image để làm AI appeared first on Sunny Cloud | AWS Billing và giải pháp AWS toàn diện.

Amazon SageMaker Training: vừa công bố hỗ trợ Amazon EC2 P6-B200

Sunny Cloud — Tue, 24 Jun 2025 16:40:34 +0000

Mục lục bài viết

Hiện tại Amazon SageMaker Training đã hỗ trợ Amazon EC2 P6-B200!
- Các thông số kỹ thuật của P6-B200:
Trước tiên chúng ta nói về SageMaker Training
Amazon SageMaker Training có 3 cách tiếp cận:
Các tính năng khác
Các khuyến nghị khi bắt đầu training
Kết luận:

Việc setup server, cài đặt GPU driver, quản lý tài nguyên tốn nhiều thời gian và công sức cho doanh nghiệp và cá nhân các nhà phát triển, cho nên Amazon SageMaker Training chính là công cụ tuyệt vời giúp bạn tập trung vào điều quan trọng nhất – xây dựng mô hình AI của mình.

Nguồn: https://aws.amazon.com/about-aws/whats-new/2025/06/amazon-sagemaker-ai-training-jobs-general-availability-p6-b200-instances

Hiện tại Amazon SageMaker Training đã hỗ trợ Amazon EC2 P6-B200!

Các thông số kỹ thuật của P6-B200:

Hiệu suất gấp đôi so với P5en instances
8 GPU Blackwell với 1440 GB bộ nhớ GPU tốc độ cao
Băng thông tăng 60% so với thế hệ trước
Mạng EFAv4 lên đến 3.2 terabit/giây
AWS Nitro System đảm bảo mở rộng lên đến hàng chục nghìn GPU

Các thông số ấn tượng trên giúp cho việc training model trở nên thuận tiện và nhanh chóng hơn rất nhiều.

Trước tiên chúng ta nói về SageMaker Training

Thay vì phải build cơ sở hạ tầng, cài đặt các công cụ, thuê GPU, … đế training model. Thì trên AWS đã có sẵn công cụ tích hợp tất cả các điều này.

Cho nên với SageMaker Training, chúng ta chỉ cần tập trung vào code( tức là việc xây dựng business cho việc đào tạo mô hình) cũng như dữ liệu đầu vào.

Amazon SageMaker Training có 3 cách tiếp cận:

1. Dành cho người mới: No-code với SageMaker Canvas

Phù hợp khi:

Bạn không biết code hoặc không muốn code
Muốn thử nghiệm nhanh với AI
Cần kết quả nhanh cho business

Cách dùng:

Upload data
Click chọn loại model
Nhấn “Train”
Đợi kết quả!

Ví dụ thực tế:

Một shop online muốn dự đoán doanh thu tháng sau dựa trên data bán hàng – chỉ cần upload file Excel và chọn “Forecast”!l

2. Level trung bình: Built-in Algorithms

Phù hợp khi:

Biết Python cơ bản
Muốn tùy chỉnh hyperparameters
Cần algorithms chuyên biệt như XGBoost

Code ví dụ:

from sagemaker import XGBoost

# Khởi tạo model

xgb = XGBoost(

    entry_point="train.py",

    role=role,

    instance_type="ml.m5.xlarge",

    instance_count=1,

    hyperparameters={

        "max_depth": 5,

        "eta": 0.2,

        "objective": "binary:logistic"

    }

)

# Train model

xgb.fit({"train": train_data})

Use case:

Ngân hàng dự đoán khả năng vỡ nợ của khách hàng với XGBoost.

3. Pro level: Custom Scripts & Containers

Phù hợp khi:

Cần kiểm soát hoàn toàn
Train model phức tạp, scale lớn
Sử dụng frameworks đặc biệt

Sức mạnh:

Distributed training trên hàng trăm GPU
Custom Docker containers
Tích hợp với mọi ML framework

Ví dụ:

Startup AI Việt Nam train model nhận diện giọng nói tiếng Việt với custom architecture trên 100 GPU instances.

Các tính năng khác

1. SageMaker JumpStart – Đây gọi là kho các model

Truy cập hàng trăm foundation models
Fine-tune GPT, Claude, Llama… cho use case riêng
Deploy trong vài click

2. SageMaker HyperPod – Các Cluster GPU

Cluster GPU persistent cho project lớn
Tự động phục hồi khi có lỗi
Scale lên hàng nghìn GPU

3. Hyperparameter Tuning – Chứa các hyperparameters

Tự động thử nhiều combinations
Tìm ra hyperparameters tốt nhất
Tiết kiệm hàng tuần tuning thủ công

4. Distributed Training – Phân chia nhỏ để training

Train model lớn trên nhiều GPU/instances
Optimized cho AWS infrastructure
Hỗ trợ PyTorch, TensorFlow, MXNet

Các khuyến nghị khi bắt đầu training

1. Bắt đầu nhỏ, scale sau

Test với sample data trước
Dùng instance nhỏ cho development
Scale up khi production

2. Monitor everything

Dùng SageMaker Debugger
Track metrics với CloudWatch
Profile performance bottlenecks

3. Version control

Lưu model artifacts trong S3
Track experiments với SageMaker Experiments

Kết luận:

Với Amazon SageMaker Training việc huấn luyện AI đã trở nên đơn giản hơn rất nhiều.

Chúng ta không cần chuẩn bị từ đầu giúp tiết kiệm thời gian hơn rất nhiều.

Hy vọng bài viết có ích và cảm ơn độc giả đã đọc đến cuối!

The post Amazon SageMaker Training: vừa công bố hỗ trợ Amazon EC2 P6-B200 appeared first on Sunny Cloud | AWS Billing và giải pháp AWS toàn diện.

Amazon Bedrock Custom Model Import: Đã hỗ trợ Qwen model

Sunny Cloud — Tue, 17 Jun 2025 02:35:00 +0000

Mục lục bài viết

Amazon Bedrock Custom Model Import vừa công bố hỗ trợ thêm Qwen model cho phép bạn “đưa” mô hình AI nhà Qwen tự huấn luyện lên cloud chỉ trong vài click.

Nguồn bài viết: https://aws.amazon.com/about-aws/whats-new/2025/06/amazon-bedrock-custom-model-import-qwen-models

Qwen hỗ trợ các loại mô hình chuyên biệt như sau:

Ba loại chính của Qwen model:

1. Qwen 2.5 Coder – Chuyên cho việc lập trình

Chuyên viết code, sửa bug, dịch code
Hiểu sâu về logic lập trình
Hoàn hảo cho các team dev muốn có AI coding assistant riêng

2. Qwen 2.5 VL – Chuyên cho xử lý tác vụ hàng ngày

Xử lý cả văn bản và hình ảnh
Trả lời câu hỏi về hình ảnh
Phân tích tài liệu có cả chữ và hình

3. QwQ 32B – Chuyên về tư duy logic

Giải quyết vấn đề phức tạp
Hiệu suất ngang mô hình lớn hơn nhiều
Tiết kiệm chi phí vận hành

Custom Model Import là gì?

Hãy tưởng tượng bạn bạn phải xây lại mô hình từ đầu?

Phải đầu tư từ cơ sở hạ tầng AI, trung tâm dữ liệu cho đến con người để có thể đủ nguồn lực.Điều này dẫn đến chi phí tăng cao mà không phải doanh nghiệp hay cá nhân nào cũng có thể đáp ứng được.

→ Đây là lý do Custom Model Import ra đời với những lợi ích to lớn:

1. Kết hợp tốt nhất của hai thế giới

Tùy chỉnh theo nhu cầu: Giữ nguyên mô hình đã training với data riêng
Infrastructure đẳng cấp: Tận dụng hạ tầng serverless của AWS
Không lo vận hành: AWS lo phần khó, bạn tập trung vào business

2. Ba kịch bản sử dụng phổ biến

Fine-tuning với dữ liệu riêng

Bạn đã tinh chỉnh mô hình với dữ liệu nội bộ
Muốn giữ bí mật “công thức” riêng
Ví dụ: Mô hình tư vấn tài chính theo style công ty bạn

Chuyên môn hóa cho ngành

Mô hình chuyên sâu cho domain cụ thể
Ví dụ: AI hiểu tiếng lóng ngành y tế Việt Nam
Hoặc model phân tích giá bất động sản Thành Phố Hồ Chí Minh

Xây dựng từ đầu

Mô hình hoàn toàn mới với kiến trúc độc quyền
Thay đổi cả config, vocabulary, attention mechanism
Cho những ai muốn làm “pioneer” tiên phong trong lĩnh vực mới

Sau Đây Là Hướng dẫn import model

Bước 1: Chuẩn bị dữ liệu cho model

Model của bạn cần được đóng gói theo format Hugging Face với các file:

.safetensor – Trọng số model (dưới 200GB cho text, 100GB cho multimodal)
config.json – Cấu hình model
tokenizer.json và tokenizer_config.json – Bộ xử lý văn bản
tokenizer.model – Model tokenizer

Bước 2: Upload lên S3

Đơn giản upload tất cả file lên một S3 bucket

Bước 3: Tạo import job

Vào Amazon Bedrock console
Chọn “Foundation models” → “Imported models”
Paste S3 URI và đặt tên cho model
Click “Import”

Bước 4: Sử dụng model

import boto3

bedrock = boto3.client('bedrock-runtime')

response = bedrock.invoke_model(

    modelId='your-custom-model-id',

    body=json.dumps({

        "prompt": "Phân tích xu hướng thị trường Q4/2025",

        "max_tokens": 1000

    })

)

Kiến trúc được hỗ trợ

Amazon Bedrock hỗ trợ import các kiến trúc phổ biến:

Llama family (2, 3, 3.1, 3.2, 3.3)
Mistral & Mixtral – Hiệu quả với Mixture of Experts
Flan T5 – Encoder-decoder cho các task phức tạp
GPTBigCode – Chuyên gia về code
Qwen family – Mới nhất, đa năng nhất

Chi phí – Minh bạch và linh hoạt

Pay per use: Chỉ trả tiền khi sử dụng
On-demand throughput: Không lo về capacity planning

Các Lưu ý quan trọng

Giới hạn về kỹ thuật:

Model weights: Max 200GB (text) hoặc 100GB (multimodal)
Context length: Tối đa 128K tokens
Transformer version: 4.45.2

Tính năng chưa hỗ trợ:

Batch inference (đang phát triển)
AWS CloudFormation
Quantized models

Các Regions khả dụng:

US East (N. Virginia)
US West (Oregon)
Europe (Frankfurt)

Use cases thực tế

1. Chatbot nội bộ thông minh

Import model đã train với tài liệu công ty
Trả lời câu hỏi về policy, quy trình nội bộ
Bảo mật tuyệt đối

2. AI phân tích tài chính

Model được train với dữ liệu thị trường Việt Nam
Hiểu được context và thuật ngữ local
Dự đoán xu hướng chính xác hơn

3. Code assistant chuyên biệt

Qwen 2.5 Coder được fine-tune với codebase công ty
Hiểu coding convention và architecture pattern riêng
Tăng productivity cho đội phát triển

Kết luận:

Amazon Bedrock Custom Model Import đang mở ra kỷ nguyên mới – nơi mọi công ty đều có thể có AI riêng, được tùy chỉnh theo nhu cầu nhưng vẫn tận dụng được sức mạnh của cloud computing.

Với việc hỗ trợ thêm dòng Qwen – đặc biệt là Qwen 2.5 Coder và QwQ 32B – Amazon Bedrock đang chứng tỏ cam kết mang đến những công nghệ AI tiên tiến nhất cho developer.

Cảm ơn độc giả đã đọc đến cuối bài viết!

The post Amazon Bedrock Custom Model Import: Đã hỗ trợ Qwen model appeared first on Sunny Cloud | AWS Billing và giải pháp AWS toàn diện.

Amazon Bedrock Prompt Optimization: Bí quyết tối ưu hóa hiệu suất AI cho doanh nghiệp

Sunny Cloud — Thu, 05 Jun 2025 04:06:00 +0000

Mục lục bài viết

Prompt Optimization là gì?
- Tại sao cần Prompt Optimization?
Cách hoạt động của Bedrock Prompt Optimization
- Bước 1: Phân tích Prompt (Prompt Analyzer)
- Bước 2: Viết lại Prompt (Prompt Rewriter)
Hướng dẫn sử dụng trên AWS Console
Bí quyết sử dụng hiệu quả
Ví dụ cụ thể
Lợi ích cho doanh nghiệp
Kết luận

Để câu trả lời của AI chính xác hơn, chúng ta phải biết cách “giao tiếp” với AI – hay còn gọi là Prompt Engineering. Hôm nay, Amazon công bố một tính năng đột phá gọi là Bedrock Prompt Optimization.

https://aws.amazon.com/about-aws/whats-new/2025/04/prompt-optimization-amazon-bedrock-generally-available

Prompt Optimization là gì?

Hãy tưởng tượng bạn đang dạy một đứa trẻ làm toán. Cách bạn giải thích, đưa ra ví dụ và hướng dẫn sẽ quyết định đứa trẻ hiểu bài tốt đến mức nào.

Prompt Optimization cũng tương tự – nó giúp bạn “dạy” AI hiểu và thực hiện nhiệm vụ một cách tốt nhất.

Tại sao cần Prompt Optimization?

1. Khó đánh giá chất lượng prompt

Mỗi mô hình AI phản ứng khác nhau với cùng một prompt
Không có tiêu chuẩn chung để đánh giá prompt “tốt”
Cần chuyên môn sâu để hiểu cách AI hoạt động

2. Phụ thuộc vào ngữ cảnh

Prompt hiệu quả cho tác vụ này có thể không phù hợp với tác vụ khác
Cần tùy chỉnh cho từng trường hợp cụ thể
Không có “công thức chung” cho mọi tình huống

3. Khó mở rộng quy mô

Số lượng prompt cần tối ưu ngày càng tăng
Tốn thời gian và công sức khi làm thủ công
Không thể thử hết mọi cách viết prompt

Cách hoạt động của Bedrock Prompt Optimization

Công cụ này hoạt động theo 2 bước chính:

Bước 1: Phân tích Prompt (Prompt Analyzer)

AI phân tích cấu trúc prompt của bạn
Tách biệt các thành phần: hướng dẫn, ngữ cảnh, ví dụ
Hiểu ý định và mục tiêu của bạn

Bước 2: Viết lại Prompt (Prompt Rewriter)

Sử dụng AI để cải thiện cách diễn đạt
Sắp xếp lại cấu trúc cho rõ ràng hơn
Thêm các hướng dẫn cụ thể để AI hiểu tốt hơn

Hướng dẫn sử dụng trên AWS Console

Truy cập Amazon Bedrock Console

Nhập prompt gốc của bạn
Chọn mô hình AI mục tiêu (ví dụ: Claude, Llama)
Nhấn nút tối ưu hóa

So sánh kết quả giữa prompt gốc và prompt đã tối ưu

Chỉ trong vài giây, bạn sẽ có một prompt được cải thiện đáng kể!

Bí quyết sử dụng hiệu quả

1. Viết prompt rõ ràng từ đầu

Nêu rõ mục tiêu và kỳ vọng
Tách biệt các phần bằng dòng trống
Tránh câu dài dòng, phức tạp

2. Sử dụng tiếng Anh

Hiện tại công cụ hoạt động tốt nhất với tiếng Anh
Các ngôn ngữ khác có thể cho kết quả không tối ưu

3. Tránh prompt quá dài

Prompt ngắn gọn dễ tối ưu hơn
Hạn chế số lượng ví dụ trong prompt
Tách biệt rõ ràng các placeholder (biến)

4. Sử dụng sớm trong quá trình phát triển

Hiệu quả nhất với prompt “thô” chưa được chỉnh sửa nhiều
Giúp tiết kiệm thời gian ngay từ đầu
Có thể không cần thiết cho prompt đã được tối ưu thủ công

Ví dụ cụ thể

Thay vì viết:

Trả lời {{câu hỏi}} bằng cách đọc {{đoạn văn}} của {{tác giả}}

Hãy viết:

Đoạn văn:

{{đoạn văn}}

Tác giả:

{{tác giả}}

Trả lời câu hỏi sau:

{{câu hỏi}}

Lợi ích cho doanh nghiệp

Tiết kiệm thời gian: Từ vài giờ xuống còn vài giây
Tăng hiệu suất: Độ chính xác cao hơn 10-20%
Dễ dàng mở rộng: Áp dụng cho hàng trăm use case
Giảm chi phí: Không cần thuê chuyên gia prompt engineering

Kết luận

Amazon Bedrock Prompt Optimization không chỉ là một công cụ – nó là chìa khóa giúp doanh nghiệp khai thác tối đa sức mạnh của AI.

Cảm ơn các bạn đã đọc đến cuối bài viết!

The post Amazon Bedrock Prompt Optimization: Bí quyết tối ưu hóa hiệu suất AI cho doanh nghiệp appeared first on Sunny Cloud | AWS Billing và giải pháp AWS toàn diện.