Mistral AI phát hành Forge
AI/ML·Hacker News·1 lượt xem

Mistral AI phát hành Forge

Mistral AI Releases Forge

AI Summary

Mistral AI vừa ra mắt Forge, một hệ thống cho phép các doanh nghiệp tự tạo ra các mô hình AI tiên tiến, chuyên biệt, dựa trên chính dữ liệu nội bộ của họ. Điều này cực kỳ quan trọng để xây dựng các enterprise agents đáng tin cậy, có khả năng làm việc hiệu quả với các hệ thống nội bộ, hiểu được thuật ngữ chuyên ngành và tuân thủ các chính sách của công ty. Forge giúp khắc phục những hạn chế của các AI chung chung. Các developer nên cân nhắc Forge cho những ứng dụng đòi hỏi khả năng hiểu ngữ cảnh sâu sắc và kiểm soát hành vi AI trong môi trường doanh nghiệp, tận dụng tối đa các tính năng như pre-training, fine-tuning và reinforcement learning trên các tập dữ liệu riêng.

Hôm nay, chúng tôi giới thiệu Forge, một hệ thống dành cho các doanh nghiệp xây dựng các mô hình AI cấp cao dựa trên kiến ​​thức độc quyền của họ. Hầu hết các mô hình AI hiện nay đều được đào tạo chủ yếu trên các...

Hôm nay, chúng tôi xin giới thiệu Forge, một hệ thống dành cho các doanh nghiệp xây dựng các mô hình AI cấp cao dựa trên kiến thức độc quyền của họ.

Hầu hết các mô hình AI hiện nay đều được đào tạo chủ yếu dựa trên dữ liệu có sẵn công khai. Chúng được thiết kế để thực hiện tốt trên một loạt các nhiệm vụ. Nhưng doanh nghiệp vận hành bằng cách sử dụng kiến thức nội bộ: tiêu chuẩn kỹ thuật, chính sách tuân thủ, cơ sở mã, quy trình hoạt động và số năm đưa ra quyết định của tổ chức.

Forge thu hẹp khoảng cách giữa AI chung và nhu cầu cụ thể của doanh nghiệp. Thay vì dựa vào dữ liệu công khai, rộng rãi, các tổ chức có thể đào tạo các mô hình hiểu được bối cảnh nội bộ của họ được nhúng trong các hệ thống, quy trình làm việc và chính sách, điều chỉnh AI cho phù hợp với các hoạt động riêng của họ.

Mistral AI đã hợp tác với các tổ chức hàng đầu thế giới như ASML, DSO National Laboratories Singapore, Ericsson, Cơ quan Vũ trụ Châu Âu, Home Team Cơ quan Khoa học và Công nghệ (HTX) SingaporeTrả lời để đào tạo các mô hình về dữ liệu độc quyền hỗ trợ các hệ thống phức tạp nhất và các công nghệ định hình tương lai của họ.

Forge Users

Mô hình đào tạo về kiến thức thể chế.

Forge cho phép doanh nghiệp xây dựng các mô hình tiếp thu kiến ​​thức miền của họ. Các tổ chức có thể đào tạo các mô hình dựa trên khối lượng lớn tài liệu nội bộ, cơ sở mã, dữ liệu có cấu trúc và hồ sơ vận hành. Trong quá trình đào tạo, mô hình sẽ học từ vựng, kiểu lập luận và các ràng buộc xác định môi trường đó.

Điều này cho phép các nhóm phát triển các mô hình và tác nhân suy luận bằng cách sử dụng thuật ngữ nội bộ và hiểu quy trình làm việc của doanh nghiệp. Forge hỗ trợ các phương pháp đào tạo hiện đại trong nhiều giai đoạn của vòng đời mô hình:

  • Đào tạo trước cho phép các tổ chức xây dựng mô hình nhận biết miền bằng cách học hỏi từ các tập dữ liệu nội bộ lớn.
  • Phương pháp đào tạo sau cho phép các nhóm tinh chỉnh hành vi của mô hình cho các nhiệm vụ và môi trường cụ thể.
  • Học tăng cường giúp các tổ chức điều chỉnh các mô hình và tác nhân phù hợp với chính sách nội bộ, tiêu chí đánh giá và mục tiêu hoạt động, đồng thời cải thiện hiệu suất của tác nhân trong môi trường thực, như sự điều phối phức tạp, sử dụng công cụ và ra quyết định.

Cùng với nhau, những khả năng này cho phép doanh nghiệp vượt ra ngoài hành vi AI thông thường và phát triển các mô hình phản ánh trí tuệ của tổ chức.

Kiểm soát và tự chủ chiến lược.

Đối với nhiều tổ chức, việc áp dụng AI đặt ra câu hỏi về khả năng kiểm soát mô hình, dữ liệu và quyền sở hữu trí tuệ lâu dài. Forge cho phép doanh nghiệp xây dựng các mô hình nằm trong tầm kiểm soát của họ. Các mô hình có thể được đào tạo bằng cách sử dụng bộ dữ liệu độc quyền và được quản lý bằng chính sách nội bộ, tiêu chuẩn đánh giá và yêu cầu hoạt động.

Điều này cho phép các tổ chức giữ quyền kiểm soát cách hệ thống AI mã hóa và sử dụng kiến thức của họ. Trong môi trường được quản lý, mức độ kiểm soát này rất quan trọng. Doanh nghiệp phải đảm bảo rằng các mô hình phản ánh các yêu cầu tuân thủ, các hạn chế trong hoạt động và khuôn khổ quản trị nội bộ.

Bằng cách cho phép các tổ chức xây dựng các mô hình dựa trên kiến thức của chính họ và vận hành trong môi trường cơ sở hạ tầng của riêng họ, Forge mang lại mức độ tự chủ chiến lược cao hơn khi AI trở thành một phần của hệ thống doanh nghiệp cốt lõi.

Mô hình tùy chỉnh làm cho các đại lý doanh nghiệp trở nên đáng tin cậy.

Đại lý doanh nghiệp phải làm nhiều hơn là tạo ra câu trả lời. Họ cần điều hướng các hệ thống nội bộ, sử dụng công cụ một cách chính xác và đưa ra quyết định trong giới hạn của tổ chức.

Các mô hình tùy chỉnh có thể thực hiện được điều này bằng cách cung cấp cho tổng đài viên sự hiểu biết sâu sắc hơn về môi trường mà họ hoạt động. Thay vì dựa vào lý luận chung, các tác nhân được hỗ trợ bởi các mô hình được đào tạo theo miền có thể diễn giải thuật ngữ nội bộ, tuân theo các quy trình vận hành và hiểu các hệ thống và nguồn dữ liệu khác nhau có liên quan với nhau như thế nào.

Điều này thay đổi cách hành xử của các tổng đài viên trong thực tế. Việc lựa chọn công cụ trở nên chính xác hơn. Quy trình làm việc nhiều bước trở nên đáng tin cậy hơn. Các quyết định có thể phản ánh các chính sách nội bộ và logic kinh doanh thay vì các giả định chung chung.

Kết quả là các tác nhân vượt ra khỏi phạm vi hỗ trợ đơn giản và bắt đầu hoạt động như các thành phần vận hành của hệ thống doanh nghiệp có khả năng thực thi các nhiệm vụ, điều phối giữa các công cụ và hỗ trợ các quy trình phức tạp với độ chính xác và tốc độ cao hơn.

Marketecture Forge

Hỗ trợ nhiều kiến trúc mô hình.

Forge mang đến sự linh hoạt với sự hỗ trợ cho cả kiến trúc dày đặc và kiến trúc hỗn hợp các chuyên gia (MoE). Điều này cho phép các tổ chức tối ưu hóa các hạn chế về hiệu suất, chi phí và hoạt động. Các mô hình dày đặc cung cấp khả năng chung mạnh mẽ cho nhiều nhiệm vụ của doanh nghiệp, trong khi MoE cho phép các mô hình rất lớn chạy hiệu quả hơn; mang lại khả năng tương đương với độ trễ và chi phí tính toán thấp hơn so với mô hình dày đặc có quy mô tương tự. Forge cũng hỗ trợ đầu vào đa phương thức khi cần thiết, cho phép các mô hình học hỏi từ văn bản, hình ảnh và các định dạng dữ liệu khác.

Tác nhân ưu tiên thiết kế

Các tác nhân mã đang trở thành người dùng chính của các công cụ dành cho nhà phát triển, vì vậy chúng tôi đã xây dựng Forge cho họ trước tiên chứ không phải là suy nghĩ sau. Một tác nhân tự trị như Mistral Vibe có thể sử dụng nó để tinh chỉnh các mô hình, tìm siêu tham số tối ưu, lên lịch công việc và tạo dữ liệu tổng hợp cho các cuộc đua leo đồi. Trong suốt quá trình, Forge giám sát các số liệu để đảm bảo mô hình không thụt lùi so với các điểm chuẩn mà bạn quan tâm. Vì Forge xử lý cơ sở hạ tầng và bao gồm các công thức đã được thử nghiệm trong chiến đấu cho đường dẫn dữ liệu cũng như phương pháp đào tạo riêng của Mistral AI nên bất kỳ ai, kể cả đại lý, đều có thể tùy chỉnh mô hình chỉ bằng cách viết tiếng Anh đơn giản.

Cải tiến liên tục thông qua học tập và đánh giá tăng cường.

Môi trường doanh nghiệp phát triển không ngừng. Quy định thay đổi. Hệ thống được cập nhật. Dữ liệu mới sẽ có sẵn. Forge được thiết kế để thích ứng liên tục thay vì đào tạo một lần. Các tổ chức có thể sử dụng quy trình học tập tăng cường để tinh chỉnh hành vi của mô hình bằng cách sử dụng phản hồi thu được từ các đánh giá nội bộ và quy trình hoạt động.

Điều này cho phép các nhóm cải thiện mô hình theo thời gian và điều chỉnh kết quả đầu ra phù hợp với mục tiêu của tổ chức. Khung đánh giá cho phép doanh nghiệp kiểm tra các mô hình dựa trên điểm chuẩn nội bộ, quy tắc tuân thủ và nhiệm vụ theo miền cụ thể trước khi triển khai chúng vào môi trường sản xuất.

Kết quả là một vòng đời mô hình hỗ trợ cải tiến liên tục thay vì triển khai tĩnh.

Ví dụ về ứng dụng doanh nghiệp.

Các tổ chức có thể áp dụng Forge trên nhiều loại quy trình làm việc của doanh nghiệp.

Các cơ quan chính phủ có thể xây dựng các mô hình được đào tạo cho các ngôn ngữ và phương ngữ khác nhau, khung chính sách, văn bản quy định và thủ tục hành chính. Điều này cho phép các tác nhân AI trở nên đáng tin cậy khi thực hiện phân tích chính sách, cung cấp dịch vụ công và lập kế hoạch hoạt động, đồng thời phản ánh các nhiệm vụ của tổ chức và yêu cầu quản trị.

Các tổ chức tài chính có thể đào tạo các mô hình về khuôn khổ tuân thủ, quy trình quản lý rủi ro và tài liệu quy định. Điều này cho phép hệ thống AI tạo ra kết quả đầu ra phù hợp với chính sách quản trị nội bộ.

Nhóm phần mềm có thể đào tạo các mô hình về cơ sở mã độc quyền và các tiêu chuẩn phát triển. Giá trị thực sự đến từ việc định hình các mô hình để thực hiện đặc biệt tốt các nhiệm vụ kỹ thuật cụ thể nhằm thúc đẩy năng suất và chất lượng trong công ty. Một mô hình được đào tạo về các kho lưu trữ độc quyền và các tiêu chuẩn phát triển có thể hiểu rõ hơn về các lựa chọn kiến ​​trúc, mẫu và trừu tượng nội bộ. Khi được đào tạo sau về các quy trình ưu tiên như triển khai, gỡ lỗi, di chuyển, đánh giá hoặc hỗ trợ thiết kế hệ thống, nó có thể cung cấp kết quả đầu ra phù hợp hơn với ngữ cảnh, phù hợp hơn với thực tiễn nội bộ và hữu ích hơn trong suốt vòng đời phát triển phần mềm.

Nhà sản xuất có thể đào tạo các mô hình về thông số kỹ thuật, dữ liệu vận hành và hồ sơ bảo trì. Những mô hình này có thể hỗ trợ chẩn đoán, phân tích thiết kế và ra quyết định vận hành.

Doanh nghiệp lớn có thể triển khai các đại lý được xây dựng trên mô hình được đào tạo trên hệ thống kiến thức nội bộ. Các đại lý này có thể sử dụng tài liệu của công ty, hồ sơ hoạt động và các quyết định lịch sử để hỗ trợ nhân viên trong các quy trình công việc phức tạp. Vì các mô hình tùy chỉnh cơ bản hiểu thuật ngữ và cấu trúc kiến thức của tổ chức nên các tổng đài viên có thể truy xuất thông tin và thực hiện các nhiệm vụ với độ chính xác và tốc độ cao hơn.

Trong mỗi trường hợp, mục tiêu đều giống nhau: cho phép các mô hình và tác nhân được xây dựng trên chúng hoạt động trong bối cảnh miền của tổ chức.

Xây dựng mô hình biên giới của riêng bạn với Forge.

Các mô hình AI đang trở thành lớp nền tảng của cơ sở hạ tầng doanh nghiệp. Khi các tổ chức tích hợp các tác nhân AI vào các hoạt động cốt lõi, khả năng mã hóa kiến thức của tổ chức thành hành vi mô hình sẽ ngày càng trở nên quan trọng.

Forge cho phép các doanh nghiệp xây dựng và liên tục cải tiến các mô hình được đào tạo trên dữ liệu của chính họ và phù hợp với bối cảnh hoạt động của họ. Những mô hình này có thể hỗ trợ các hệ thống và tác nhân AI hoạt động bằng cách sử dụng thuật ngữ, quy trình và ràng buộc của tổ chức. Theo thời gian, cách tiếp cận này cho phép các tổ chức coi các mô hình AI không chỉ đơn giản là công cụ bên ngoài mà còn là tài sản chiến lược phát triển cùng với kiến thức, quy trình và kiến thức chuyên môn của họ.

Nếu tổ chức của bạn sẵn sàng khám phá ý nghĩa của việc xây dựng AI dựa trên kiến thức của chính mình, hãy đăng ký để tìm hiểu thêm về Forge.

Tác giả: pember

#discussion