Giám đốc Salesforce tại Anh kêu gọi chính phủ không áp dụng quy định giống nhau cho tất cả các công ty AI.

Giám đốc điều hành của Salesforce tại Anh kêu gọi chính phủ quản lý AI

Giám đốc điều hành của Salesforce tại Anh, Zahra Bahrololoumi, đã kêu gọi chính phủ Lao động quản lý trí tuệ nhân tạo (AI) nhưng cũng nhấn mạnh rằng các nhà hoạch định chính sách không nên đánh đồng tất cả các công ty công nghệ đang phát triển hệ thống AI. Bà Bahrololoumi cho biết Salesforce, một công ty phần mềm doanh nghiệp của Mỹ, rất coi trọng mọi luật pháp. Tuy nhiên, bà cũng cho rằng bất kỳ đề xuất nào của Anh nhằm điều chỉnh AI nên “tương xứng và được thiết kế riêng biệt”.

Sự khác biệt giữa AI hướng đến người tiêu dùng và AI doanh nghiệp

Bahrololoumi lưu ý rằng có sự khác biệt giữa các công ty phát triển công cụ AI hướng đến người tiêu dùng – như OpenAI – và các công ty như Salesforce tạo ra hệ thống AI doanh nghiệp. Bà cho biết các hệ thống AI hướng đến người tiêu dùng, chẳng hạn như ChatGPT, phải đối mặt với ít hạn chế hơn so với các sản phẩm cấp doanh nghiệp, vốn phải đáp ứng các tiêu chuẩn bảo mật cao hơn và tuân thủ các hướng dẫn của công ty. “Chúng tôi mong muốn luật pháp được nhắm mục tiêu, tương xứng và được thiết kế riêng biệt,” Bahrololoumi nói với CNBC hôm thứ Tư. “Chắc chắn có sự khác biệt giữa những tổ chức hoạt động với công nghệ hướng đến người tiêu dùng và công nghệ tiêu dùng, và những tổ chức là công nghệ doanh nghiệp. Và mỗi chúng ta có vai trò khác nhau trong hệ sinh thái, [nhưng] chúng tôi là một tổ chức B2B,” bà nói.

Chính phủ Anh sẽ nhắm mục tiêu vào các công ty phát triển mô hình AI mạnh mẽ nhất

Một phát ngôn viên của Bộ Khoa học, Đổi mới và Công nghệ (DSIT) của Anh cho biết các quy tắc AI được lên kế hoạch sẽ “được nhắm mục tiêu cao độ vào một số ít công ty phát triển các mô hình AI mạnh mẽ nhất”, thay vì áp dụng “quy tắc chung cho việc sử dụng AI.” Điều đó cho thấy rằng các quy tắc có thể không áp dụng cho các công ty như Salesforce, những công ty không tạo ra các mô hình cơ bản của riêng mình như OpenAI. “Chúng tôi nhận thức được sức mạnh của AI trong việc thúc đẩy tăng trưởng và cải thiện năng suất và hoàn toàn cam kết hỗ trợ sự phát triển của ngành AI của chúng tôi, đặc biệt khi chúng tôi đẩy nhanh việc áp dụng công nghệ trên toàn bộ nền kinh tế của chúng tôi,” phát ngôn viên của DSIT bổ sung.

Salesforce tập trung vào đạo đức và an toàn AI

Salesforce đã tích cực quảng bá về các khía cạnh đạo đức và an toàn được tích hợp trong nền tảng công nghệ AI Agentforce của mình, cho phép các tổ chức doanh nghiệp tạo ra các “đại lý” AI của riêng họ – về cơ bản là những người lao động kỹ thuật số tự động thực hiện các nhiệm vụ cho các chức năng khác nhau, như bán hàng, dịch vụ hoặc tiếp thị. Ví dụ, một tính năng gọi là “zero retention” có nghĩa là không có dữ liệu khách hàng nào được lưu trữ bên ngoài Salesforce. Do đó, các lời nhắc và đầu ra của AI tạo sinh không được lưu trữ trong các mô hình ngôn ngữ lớn của Salesforce – các chương trình tạo thành nền tảng của các chatbot genAI ngày nay, như ChatGPT.

Sự mơ hồ về dữ liệu được sử dụng để đào tạo các chatbot AI hướng đến người tiêu dùng

Với các chatbot AI hướng đến người tiêu dùng như ChatGPT, Claude của Anthropic hoặc trợ lý AI của Meta, không rõ dữ liệu nào đang được sử dụng để đào tạo chúng hoặc dữ liệu đó được lưu trữ ở đâu, theo Bahrololoumi. “Để đào tạo những mô hình này, bạn cần rất nhiều dữ liệu,” bà nói với CNBC. “Vì vậy, với một thứ gì đó như ChatGPT và những mô hình tiêu dùng này, bạn không biết nó đang sử dụng gì.”

Mối lo ngại về bảo mật liên quan đến Copilot của Microsoft

Ngay cả Copilot của Microsoft, được tiếp thị cho khách hàng doanh nghiệp, cũng đi kèm với những rủi ro cao hơn, Bahrololoumi cho biết, trích dẫn một báo cáo của The Register gọi ra trợ lý cá nhân AI của gã khổng lồ công nghệ này về những rủi ro bảo mật mà nó gây ra cho các tổ chức. OpenAI và Microsoft chưa sẵn sàng đưa ra bình luận khi được CNBC liên lạc.

Cần phải quản lý AI một cách toàn diện

Bola Rotibi, trưởng bộ phận nghiên cứu doanh nghiệp tại công ty phân tích CCS Insight, nói với CNBC rằng, trong khi các nhà cung cấp AI tập trung vào doanh nghiệp “nhận thức rõ hơn về các yêu cầu cấp doanh nghiệp” xung quanh bảo mật và quyền riêng tư dữ liệu, sẽ là sai lầm khi cho rằng các quy định sẽ không xem xét kỹ lưỡng cả các công ty hướng đến người tiêu dùng và doanh nghiệp. “Tất cả những lo ngại xung quanh những thứ như sự đồng ý, quyền riêng tư, minh bạch, chủ quyền dữ liệu đều áp dụng ở mọi cấp độ, bất kể đó là người tiêu dùng hay doanh nghiệp vì những chi tiết như vậy được điều chỉnh bởi các quy định như GDPR,” Rotibi nói với CNBC qua email.

Các nhà quản lý có thể tin tưởng hơn vào các nhà cung cấp giải pháp doanh nghiệp

GDPR, hoặc Quy định chung về bảo vệ dữ liệu, đã trở thành luật tại Anh vào năm 2018. Tuy nhiên, Rotibi cho biết các nhà quản lý có thể cảm thấy “tự tin hơn” vào các biện pháp tuân thủ AI do các nhà cung cấp ứng dụng doanh nghiệp như Salesforce áp dụng, “bởi vì họ hiểu ý nghĩa của việc cung cấp các giải pháp cấp doanh nghiệp và hỗ trợ quản lý.” “Quá trình xem xét chi tiết hơn có khả năng xảy ra đối với các dịch vụ AI từ các nhà cung cấp giải pháp doanh nghiệp được triển khai rộng rãi như Salesforce,” bà nói thêm.

Salesforce thúc đẩy sử dụng AI “đại lý”

Bahrololoumi đã nói chuyện với CNBC tại Tour thế giới Agentforce của Salesforce ở London, một sự kiện được thiết kế để thúc đẩy việc sử dụng công nghệ AI “đại lý” mới của công ty bởi các đối tác và khách hàng. Lời phát biểu của bà được đưa ra sau khi Đảng Lao động của Thủ tướng Anh Keir Starmer đã không đưa ra dự luật AI trong bài diễn văn của Quốc vương, được chính phủ soạn thảo để nêu bật các ưu tiên của mình trong những tháng tới. Chính phủ lúc đó cho biết họ có kế hoạch thiết lập “luật pháp phù hợp” cho AI, mà không cung cấp thêm chi tiết.

---

Nguồn: https://cnbc.com

Xem bài viết gốc tại đây