Những điểm mới tại Google Cloud Next ’23

Ý NHI // TRUNG TÂM TIN TỨC HTV 10/9/2023, 14:50

(HTV) - Google Cloud công bố một loạt quan hệ đối tác và các cải tiến những sản phẩm mới.

Tại Google Cloud Next ’23, Google Cloud đã công bố một loạt quan hệ đối tác và cải tiến sản phẩm mới để thúc đẩy các doanh nghiệp và tổ chức thuộc khu vực công ở Đông Nam Á thử nghiệm và xây dựng ứng dụng với các mô hình ngôn ngữ lớn (LLM) và mô hình A.I. tạo sinh (generative A.I.) dễ dàng hơn, có thể tùy chỉnh chúng với dữ liệu doanh nghiệp, tích hợp và triển khai chúng một cách thuận lợi vào các ứng dụng thông qua các A.I. được tích hợp sẵn tính năng bảo mật, an toàn và có trách nhiệm.

Trong 25 năm, Google Cloud đã đầu tư vào trung tâm dữ liệu và mạng, phát triển mạng lưới đám mây toàn cầu bao gồm 38 khu vực, với mục tiêu vận hành hoàn toàn bằng năng lượng xanh carbon-free 24/7 vào năm 2030. Mạng lưới toàn cầu này bao gồm các khu vực đám mây ở Indonesia và Singapore, với các khu vực đám mây mới sẽ được thiết lập tại Malaysia và Thái Lan. Dựa trên nền tảng này, hệ thống cơ sở hạ tầng được tối ưu hóa cho A.I. của Google Cloud đang là lựa chọn hàng đầu để huấn luyện và phục vụ các mô hình A.I. tạo sinh, với hơn 70% các công ty thuộc nhóm kỳ lân A.I. tạo sinh hiện đang xây dựng ứng dụng dựa trên Google Cloud, bao gồm AI21, Anthropic, Cohere, Jasper, Replit, Runway và Typeface.

Để giúp các tổ chức ở Đông Nam Á chạy các tác vụ A.I. yêu cầu cao nhất một cách hiệu quả về chi phí và có thể mở rộng, Google Cloud đã công bố một loạt những cải tiến đáng kể cho danh mục cơ sở hạ tầng tối ưu hóa cho A.I. bao gồm: Cloud TPU v5e - đã có sẵn trong bản preview công khai - và A3 VMs với GPU NVIDIA H100 đã có mặt rộng rãi (GA).

Siêu máy tính A3 VM được cung cấp bởi GPU (Bộ xử lý đồ họa) H100 của NVIDIA, sẽ chính thức ra mắt vào tháng tới, cho phép các tổ chức đạt được hiệu suất đào tạo nhanh hơn 3 lần so với A2 - thế hệ trước của nó. A3 VM được thiết kế riêng để huấn luyện và phục vụ các tác vụ LLM và A.I. tạo sinh có yêu cầu đặc biệt cao. Trên sân khấu của Google Cloud Next ’23, Google Cloud và NVIDIA cũng đã công bố các tích hợp mới để giúp các tổ chức khác có thể sử dụng cùng một công nghệ NVIDIA mà Google DeepMind và các nhóm nghiên cứu của Google đã sử dụng trong hai năm qua.

Google Cloud cũng công bố một số cải tiến cơ sở hạ tầng quan trọng khác, bao gồm:

Google Kubernetes Engine (GKE) Enterprise: Công cụ này cho phép mở rộng quy mô theo chiều ngang đa cụm cần thiết cho các tác vụ A.I. và máy học (ML) yêu cầu cao nhất. Khách hàng hiện có thể cải thiện năng suất phát triển A.I. bằng cách tận dụng GKE để quản lý điều phối tác vụ A.I. quy mô lớn trên Cloud TPU v5e. Ngoài ra, hỗ trợ GKE cho VM A3 với GPU NVIDIA H100 hiện đã được cung cấp rộng rãi.

Cross-Cloud Network: Đây là nền tảng mạng lưới toàn cầu giúp khách hàng kết nối và bảo mật các ứng dụng giữa các đám mây và onprem. Nền tảng này là mở (open), được tối ưu hóa cho các tác vụ - điều này rất quan trọng đối với toàn bộ hiệu suất khi các tổ chức áp dụng A.I. tạo sinh, cung cấp bảo mật dựa trên ML hướng đến Zero Trust.

Các dịch vụ A.I. mới cho Google Distributed Cloud (GDC): GDC được thiết kế nhằm đáp ứng những nhu cầu riêng biệt của các tổ chức mong muốn vận hành các tác vụ ở biên hoặc bên trong các trung tâm dữ liệu của họ. Các sản phẩm trong GDC sẽ đưa A.I. đến mạng rìa (Edge), với các tích hợp của Vertex A.I. và sản phẩm được quản lý mới với AlloyDB Omni trên GDC Hosted.

Bên cạnh cơ sở hạ tầng hàng đầu thế giới của Google Cloud, công ty còn cung cấp Vertex A.I. như một nền tảng A.I. toàn diện cho phép khách hàng truy cập, điều chỉnh và triển khai các mô hình của bên thứ nhất, bên thứ ba và mã nguồn mở, cũng như xây dựng và mở rộng quy mô các ứng dụng A.I. cấp doanh nghiệp. Dựa trên sự ra mắt hỗ trợ A.I. tạo sinh trên Vertex A.I., Google Cloud hiện đang mở rộng đáng kể khả năng xử lý của Vertex A.I.. Những khả năng này bao gồm:

Các cải tiến đối với PaLM 2: 38 ngôn ngữ bao gồm tiếng Trung giản thể, tiếng Trung phồn thể, tiếng Indonesia, tiếng Thái và tiếng Việt, hiện đã có mặt trên PaLM 2 dành cho Text và Chat - đây là mô hình bên thứ nhất có chức năng tóm tắt và dịch văn bản cũng như duy trì cuộc trò chuyện đang diễn ra. PaLM 2 dành cho Text và Chat có thể được truy cập thông qua Model Garden của Vertex A.I. cùng với khả năng điều chỉnh bộ điều hợp. Điều này giúp các tổ chức ở Đông Nam Á xây dựng các ứng dụng A.I. tạo sinh nhằm phục vụ người dùng tốt hơn bằng các ngôn ngữ địa phương, trong khi phản hồi dựa trên dữ liệu doanh nghiệp hoặc kho dữ liệu riêng của họ. Google Cloud cũng đang lên kế hoạch tích hợp PaLM 2 cho Text và Chat trên hệ thống đám mây tại Singapore vào cuối năm nay. Để hỗ trợ những cuộc hội thoại trả lời câu hỏi dài hơn cũng như tóm tắt và phân tích các tài liệu lớn như tài liệu nghiên cứu, sách và tài liệu pháp lý, PaLM 2 dành cho Text và Chat giờ đây cũng sẽ hỗ trợ các cửa sổ ngữ cảnh 32.000 token (đủ để gói gọn một tài liệu 85 trang trong một prompt).

Các cải tiến đối với Codey: Đã có những cải tiến về chất lượng của Codey, mô hình bên thứ nhất của Google Cloud có chức năng tạo và sửa chữa mã phần mềm, hỗ trợ lên đến 25% các ngôn ngữ chính cho việc tạo mã và chat để tạo code. Các doanh nghiệp có thể truy cập Codey thông qua Model Garden của Vertex A.I. cùng với khả năng điều chỉnh bộ điều hợp. Google Cloud cũng đang lên kế hoạch lưu trữ Codey trong hệ thống đám mây đặt tại Singapore vào cuối năm nay.

Cải tiến đối với Imagen: Google Cloud đã giới thiệu Style Tuning cho Imagen, một khả năng xử lý mới giúp các doanh nghiệp điều chỉnh các hình ảnh cho tương thích hơn với quy chuẩn thương hiệu của họ với tối đa 10 hình ảnh. Imagen là mô hình bên thứ nhất của Google Cloud để tạo ra hình ảnh chất lượng cao từ các mô tả văn bản. Các doanh nghiệp có thể truy cập Imagen thông qua Model Garden của Vertex A.I.. Google Cloud cũng ra mắt thủy vân số (digital watermarking) trên Vertex A.I., hiện đang ở giai đoạn thử nghiệm, nhằm cung cấp cho doanh nghiệp khả năng xác thực hình ảnh A.I. do Imagen tạo ra. Tính khả dụng thử nghiệm của thủy vân số trên Vertex A.I. khiến Google Cloud trở thành nhà cung cấp đám mây đầu tiên cho phép tạo watermark vô hình và chống giả mạo trong các hình ảnh do A.I. tạo ra. Công nghệ này được hỗ trợ bởi Google DeepMind SynthID, một công nghệ tiên tiến nhúng thủy vân số trực tiếp vào các điểm ảnh, khiến mắt thường không nhìn thấy được và rất khó để giả mạo mà không làm hỏng hình ảnh.

Các mô hình mới: Llama 2 và Code Llama từ Meta, Falcon LLM của Viện Đổi mới Công nghệ - một dạng mô hình mã nguồn mở phổ biến - hiện đã có mặt trên Model Garden của Vertex A.I.. Google Cloud cũng thông báo sớm về sự ra mắt Claude 2 của Anthropic trên Model Garden của Vertex A.I.. Google Cloud sẽ là nhà cung cấp đám mây duy nhất hỗ trợ cả tính năng điều chỉnh bộ điều hợp và học tăng cường (reinforcement learning) từ phản hồi của con người (RLHF) cho Llama 2.

Tiện ích mở rộng Vertex A.I.: Nhà phát triển có thể truy cập, xây dựng và quản lý các tiện ích mở rộng cung cấp thông tin theo thời gian thực, tích hợp dữ liệu của công ty và hành động thay cho người dùng.

Ứng dụng Tìm kiếm doanh nghiệp và Giao tiếp của Vertex A.I.: Các công cụ này hiện đã có mặt rộng rãi, cho phép các tổ chức tạo ứng dụng tìm kiếm và trò chuyện bằng dữ liệu của họ chỉ trong vài phút với ít dòng code nhất, cùng chức năng quản lý và bảo mật cấp doanh nghiệp đã được tích hợp sẵn.

Grounding: Google Cloud đã công bố một dịch vụ mặt đất cho doanh nghiệp hoạt động trên Vertex A.I. Search và Conversation, cũng như các mô hình nền tảng trên Model Garden của Vertex A.I., giúp các tổ chức có khả năng kết nối các phản hồi vào dữ liệu doanh nghiệp của chính họ để cung cấp các phản hồi chính xác hơn. Công ty cũng đang làm việc với một số khách hàng đầu tiên để thử nghiệm grounding với công nghệ hỗ trợ Google Tìm kiếm.

Google đánh giá nghiêm ngặt các mô hình của mình nhằm đảm bảo tuân thủ Nguyên tắc A.I. có trách nhiệm. Khi sử dụng Vertex A.I., khách hàng sẽ duy trì toàn quyền kiểm soát dữ liệu của họ: Dữ liệu không cần rời khỏi tenant đám mây của khách hàng, được mã hóa cả trong quá trình chuyển đổi và lưu trữ, đồng thời không được chia sẻ hay sử dụng để đào tạo các mô hình của Google.

>>> Xin mời quý vị đón xem Thời sự HTV lúc 20 giờ và Chương trình Thế giới 24G lúc 20 giờ 30 phút mỗi ngày trên kênh HTV9

 

Ý kiến của bạn: