OpenAI vừa giới thiệu Ultrafast, chế độ xử lý mới được thiết kế để tăng đáng kể tốc độ của GPT-5.6 Sol, với khả năng tạo ra tối đa 750 token mỗi giây, nhanh gấp 14 lần so với phương thức xử lý tiêu chuẩn.

Ảnh: Techcrunch

OpenAI vừa triển khai thử nghiệm Ultrafast, chế độ mới nhằm tăng tốc quá trình xử lý của GPT-5.6 Sol - mô hình trí tuệ nhân tạo (AI) được hãng giới thiệu là một trong những mô hình mạnh nhất hiện nay.

Theo OpenAI, Ultrafast có thể đạt tốc độ xử lý cao hơn gấp 14 lần so với phương thức tiêu chuẩn, với khả năng tạo ra tối đa 750 token mỗi giây. Token là những đơn vị nhỏ cấu thành nội dung mà mô hình ngôn ngữ lớn (LLM) tạo ra khi tương tác với người dùng.

OpenAI cho biết, trước đây, để đạt tốc độ phản hồi gần như theo thời gian thực, người dùng thường phải lựa chọn những mô hình nhỏ hơn hoặc được tối ưu cho một nhiệm vụ cụ thể. Ultrafast được kỳ vọng sẽ mở ra hướng tiếp cận mới, tập trung vào việc tăng lượng công việc hữu ích mà AI có thể thực hiện trong mỗi giây.

Không chỉ hướng tới người dùng phổ thông, OpenAI định vị Ultrafast cho nhiều quy trình nghiệp vụ của doanh nghiệp. Một số lĩnh vực được kể đến như xử lý sự cố, chăm sóc và hỗ trợ khách hàng, phân tích thị trường tài chính, thương mại điện tử cùng nhiều tác vụ cần phản hồi nhanh khác.

Động lực phía sau tốc độ này đến từ quan hệ hợp tác giữa OpenAI và Cerebras, công ty chuyên thiết kế và sản xuất chip AI hiệu suất cao. Việc kết hợp hạ tầng phần cứng tốc độ cao với mô hình GPT-5.6 Sol được kỳ vọng sẽ giúp giảm đáng kể thời gian chờ khi xử lý các tác vụ phức tạp.

OpenAI không phải là công ty duy nhất theo đuổi hướng phát triển AI tốc độ cao. Các đối thủ như Anthropic cũng đã triển khai chế độ tăng tốc cho mô hình Claude, với Fast mode. Tuy nhiên, OpenAI cho rằng Ultrafast mang lại mức tốc độ đáng chú ý hơn.

Hiện Ultrafast mới được cung cấp dưới dạng bản xem trước (preview) cho một nhóm khách hàng nhỏ. OpenAI cho biết sẽ mở rộng quyền truy cập khi năng lực hạ tầng và công suất xử lý tăng lên.

Nếu được triển khai rộng rãi, tốc độ xử lý cao hơn có thể trở thành một yếu tố quan trọng trong cuộc cạnh tranh AI doanh nghiệp, đặc biệt với những ứng dụng đòi hỏi hệ thống phải phân tích dữ liệu và đưa ra phản hồi gần như tức thời.

LÊ PHI (Theo Techcrunch)