Tiêu chuẩn hóa vừa đóng vai trò hỗ trợ vừa đóng vai trò chủ đạo trong phát triển Trí tuệ nhân tạo (AI). Điều cần thiết không chỉ là thúc đẩy đổi mới công nghiệp mà còn phải cải thiện chất lượng sản phẩm và dịch vụ về Trí tuệ nhân tạo AI, đảm bảo an toàn cho người dùng và tạo ra một hệ sinh thái công bằng và cởi mở.

Sau phần đánh giá trước đây về bối cảnh AI ngày nay và những thách thức chính của nó, có thể rút ra một số yêu cầu cơ bản về tiêu chuẩn hóa. Phần này trước tiên cung cấp cái nhìn tổng quan về các nỗ lực tiêu chuẩn hóa hiện có liên quan đến AI, sau đó nêu bật một số khoảng trống của hoạt động tiêu chuẩn hóa và công nghiệp sẽ dẫn đến các khuyến nghị cuối cùng trong phần tiếp theo.

1 Hoạt động tiêu chuẩn hóa về trí tuệ nhân tạo

Tiêu chuẩn hóa trong lĩnh vực Trí tuệ nhân tạo AI vẫn còn ở giai đoạn đầu. Mặc dù một số khía cạnh của Trí tuệ nhân tạo AI hoặc công nghệ hỗ trợ đã là một phần trong phạm vi của các nhóm tiêu chuẩn hóa hiện có từ khá lâu, các nhóm mới hiện đang được thành lập để giải quyết lĩnh vực Trí tuệ nhân tạo AI từ góc độ sâu rộng và toàn diện hơn. Các phần sau đây cung cấp cái nhìn tổng quan về bối cảnh tiêu chuẩn hóa hiện tại, bao gồm các tổ chức được mô tả trong Hình 1

Hình 1 - Bối cảnh tiêu chuẩn hóa về AI

1.1 Ban kỹ thuật hỗn hợp ISO/IEC JTC 1

ISO/IEC JTC 1, là ủy ban kỹ thuật chung được thành lập giữa IEC và ISO về các vấn đề CNTT, đã hoạt động trong lĩnh vực thuật ngữ về Trí tuệ nhân tạo AI trong một thời gian dài. Nhóm công tác về từ vựng trước đây của JTC 1 đã ban hành loạt Tiêu chuẩn quốc tế về thuật ngữ AI sau đây:

• ISO/IEC 2382-28:1995, Công nghệ thông tin – Từ vựng – Phần 28: Trí tuệ nhân tạo – Khái niệm cơ bản và hệ thống chuyên gia

• ISO/IEC 2382-29:1999, Công nghệ thông tin – Từ vựng – Phần 29: Trí tuệ nhân tạo – Nhận dạng và tổng hợp giọng nói

• ISO/IEC 2382-31:1997, Công nghệ thông tin – Từ vựng – Phần 31: Trí tuệ nhân tạo – Máy học

• ISO/IEC 2382-34:1999, Công nghệ thông tin – Từ vựng – Phần 34: Trí tuệ nhân tạo – Mạng lưới thần kinh

Các tiêu chuẩn nêu trên hiện đã được hợp nhất thành tiêu chuẩn ISO/IEC 2382:2015 quy định các thuật ngữ chung về công nghệ thông tin, trong đó có các thuật ngữ về Trí tuệ nhân tạo (AI).

Tiểu ban kỹ thuật ISO/IEC JTC 1/SC 42

Tiểu ban kỹ thuật này được thành lập vào tháng 11 năm 2017 để giải quyết các yêu cầu tiêu chuẩn hóa cụ thể của AI. Phạm vi của JTC 1/SC 42 đóng vai trò là cơ quan trọng tâm và người đề xuất chương trình tiêu chuẩn hóa của JTC 1 về AI, đồng thời cung cấp hướng dẫn cho các Ban kỹ thuật JTC 1, IEC và ISO phát triển các ứng dụng liên quan đến AI. Các chủ đề hình thành một phần công việc của tiểu ban kỹ thuật này là:

• Tiêu chuẩn cơ bản

• Các phương pháp tính toán và đặc điểm của AI

• Độ tin cậy

• Trường hợp sử dụng và ứng dụng

• Dữ liệu lớn

• Mối quan tâm của xã hội

Sau phiên họp toàn thể đầu tiên được tổ chức vào tháng 4 năm 2018, JTC 1/SC 42 đã thành lập Nhóm công tác WG 1 về các Tiêu chuẩn cơ bản, bao gồm hai dự án được phê duyệt đầu tiên sau đây: Các khái niệm và thuật ngữ về trí tuệ nhân tạo (ISO/IEC 22989); Khung cho hệ thống trí tuệ nhân tạo sử dụng máy học (ISO/IEC 23053).

Phiên họp toàn thể của JTC 1/SC 42 cũng thành lập ba nhóm nghiên cứu:

• SG 1: Các phương pháp tính toán và đặc điểm của hệ thống trí tuệ nhân tạo, nhằm nghiên cứu các công nghệ khác nhau được hệ thống AI sử dụng (ví dụ: thuật toán học máy, lý luận), bao gồm các đặc tính và đặc điểm của chúng; các hệ thống AI chuyên dụng hiện có (ví dụ: thị giác máy tính, NLP) để hiểu và xác định các phương pháp, kiến trúc và đặc điểm tính toán cơ bản của chúng; và thực tiễn, quy trình và phương pháp của ngành để ứng dụng hệ thống AI.

• SG 2: Độ tin cậy, nhằm nghiên cứu các phương pháp thiết lập niềm tin vào hệ thống AI thông qua tính minh bạch, có thể kiểm chứng, có thể giải thích, có thể kiểm soát, v.v.; cạm bẫy kỹ thuật và đánh giá các mối đe dọa và rủi ro liên quan điển hình đối với hệ thống AI bằng các kỹ thuật và phương pháp giảm thiểu chúng; các phương pháp tiếp cận để đạt được sự mạnh mẽ, khả năng phục hồi, độ tin cậy, độ chính xác, an toàn, bảo mật, quyền riêng tư, v.v. trong hệ thống AI; và các loại nguồn sai lệch trong hệ thống AI với mục tiêu giảm thiểu sai lệch đó, bao gồm nhưng không giới hạn ở sai lệch thống kê trong hệ thống AI và việc ra quyết định được hỗ trợ bởi AI.

• SG 3: Các trường hợp sử dụng và ứng dụng, nhằm xác định các miền ứng dụng AI khác nhau (ví dụ: mạng xã hội, hệ thống nhúng) và các bối cảnh sử dụng khác nhau (ví dụ: chăm sóc sức khỏe, nhà thông minh, ô tô tự lái); thu thập các trường hợp sử dụng đại diện; và mô tả các ứng dụng cũng như trường hợp sử dụng bằng cách sử dụng thuật ngữ và khái niệm được xác định trong các dự án ISO/IEC 22989 và ISO/IEC 23053, đồng thời mở rộng các thuật ngữ nếu cần.

Các tiểu ban kỹ thuật JTC 1 khác

Vì AI là một công nghệ xuyên suốt ảnh hưởng đến nhiều lĩnh vực và ứng dụng CNTT khác nên các tiểu ban kỹ thuật khác của JTC 1 đã và đang thực hiện công việc tiêu chuẩn hóa được kết nối với AI làm động lực hoặc công nghệ hỗ trợ:

• JTC 1/SC 24: Đồ họa máy tính, xử lý hình ảnh và biểu diễn dữ liệu môi trường

• JTC 1/SC 27: Kỹ thuật bảo mật CNTT

• JTC 1/SC 35: Giao diện người dùng

• JTC 1/SC 37: Sinh trắc học

• JTC 1/SC 38: Điện toán đám mây và nền tảng phân tán

• JTC 1/SC 40: Quản lý dịch vụ CNTT và quản trị CNTT

• JTC 1/SC 41: Internet vạn vật và các công nghệ liên quan

1.2 Ủy ban Kỹ thuật Điện Quốc tế (IEC)

Một số ban kỹ thuật của IEC đã xem AI là một yếu tố có khả năng đóng góp cho chương trình làm việc của họ. Những ví dụ bao gồm:

• Tiểu ban kỹ thuật SC 45A: Hệ thống thiết bị, điều khiển và năng lượng điện của các cơ sở hạt nhân, đã thực hiện một nghiên cứu về AI, với mục đích áp dụng các công nghệ điện tử và CNTT mới nổi để cải tiến hệ thống máy tính và thông tin hỗ trợ cũng như điều chỉnh các thiết bị hạt nhân và các yêu cầu điều khiển.

• Ban kỹ thuật TC 100: Hệ thống và thiết bị âm thanh, video và đa phương tiện, phát triển các Tiêu chuẩn liên quan đến thiết bị đeo được và đã khởi xướng một chủ đề thảo luận mang tên “các kịch bản sử dụng thiết bị đeo được” bao gồm các yếu tố AI và thực tế ảo.

• Ban kỹ thuật TC 124: Các thiết bị và công nghệ điện tử đeo được, được thành lập gần đây để chịu trách nhiệm phát triển các Tiêu chuẩn kỹ thuật về kỹ thuật điện, vật liệu và an toàn cá nhân của công nghệ đeo được. Người ta dự đoán rằng các thiết bị và công nghệ như vậy sẽ được sử dụng rộng rãi trong bối cảnh ứng dụng AI.

1.3 Tổ chức Tiêu chuẩn hóa Quốc tế (ISO)

Một số ban kỹ thuật ISO quan tâm đến việc chuẩn bị các Tiêu chuẩn liên quan đến ứng dụng AI, chẳng hạn như:

• Ban kỹ thuật ISO/TC 22 "Phương tiện giao thông đường bộ", xây dựng các Tiêu chuẩn cơ bản cho phương tiện giao thông đường bộ và cũng đang nghiên cứu các thách thức về tiêu chuẩn hóa liên quan đến trí thông minh và ô tô được kết nối.

• Ban kỹ thuật ISO/TC 68 "Dịch vụ tài chính", hoạt động về tiêu chuẩn hóa cho lĩnh vực tài chính ngân hàng. Các xu hướng mới được đề cập trong khoảng 58 Tiêu chuẩn của ủy ban này.

• Ban kỹ thuật ISO/TC 299 "Robotics", bao gồm lĩnh vực tiêu chuẩn hóa robot cho nhiều mục đích sử dụng khác nhau.

1.4 Liên minh Viễn thông Quốc tế (ITU)

Trong lĩnh vực AI, ITU-T có Nhóm tập trung vào học máy cho các mạng trong tương lai bao gồm 5G (FG-ML5G). Mục tiêu của nhóm này bao gồm [81]:

• Giúp áp dụng công nghệ máy học trong các mạng tương lai, bao gồm kiến trúc, giao diện, trường hợp sử dụng, giao thức, thuật toán, định dạng dữ liệu, khả năng tương tác, hiệu suất, đánh giá, bảo mật và bảo vệ thông tin cá nhân.

• Nghiên cứu, xem xét và khảo sát các công nghệ, nền tảng, hướng dẫn và tiêu chuẩn hiện có cho máy học trong các mạng tương lai.

• Xác định các khía cạnh cho phép sử dụng khung học máy một cách an toàn và đáng tin cậy.

• Xem xét và nghiên cứu cách đào tạo, điều chỉnh, nén và trao đổi các thuật toán học máy trong các mạng tương lai cũng như cách nhiều thuật toán tương tác với nhau.

• Xác định các yêu cầu có thể có của học máy được áp dụng cho các mạng trong tương lai, có tính đến nhiều loại phương tiện liên lạc cố định và di động, đồng thời thúc đẩy phát triển các phương pháp học máy mới có thể đáp ứng các yêu cầu này.

• Xác định các yêu cầu có thể có về chức năng, giao diện và khả năng sử dụng máy học của mạng.

• Xác định những thách thức về tiêu chuẩn hóa trong học máy cho truyền thông.

• Đưa ra phân tích lỗ hổng và lộ trình học máy nhằm xác định phạm vi liên quan của các khuyến nghị của ITU-T về các chủ đề này.

1.5 Viện Các Nhà Kỹ sư Điện - Điện tử (IEEE)

IEEE chủ yếu tập trung vào lĩnh vực này để nghiên cứu các khía cạnh đạo đức của các tiêu chuẩn kỹ thuật liên quan đến AI. Vào tháng 3 năm 2016, IEEE đã phát động Sáng kiến Toàn cầu về Cân nhắc Đạo đức trong Trí tuệ Nhân tạo và Hệ thống Tự trị, với mục đích giúp mọi người đối phó với các mối đe dọa do AI gây ra và phát triển các nguyên tắc và tiêu chuẩn thiết kế có đạo đức, từ quyền riêng tư dữ liệu đến lỗi- kỹ thuật an toàn [82].

Dưới sự bảo trợ này, cho đến nay IEEE đã phê duyệt các dự án tiêu chuẩn hóa sau:

• IEEE P7000: Quy trình mẫu để giải quyết các vấn đề đạo đức trong quá trình thiết kế hệ thống

• IEEE P7001: Tính minh bạch của hệ thống tự trị

• IEEE P7002: Quy trình bảo mật dữ liệu

• IEEE P7003: Cân nhắc về sai lệch thuật toán

• IEEE P7004: Tiêu chuẩn quản lý dữ liệu trẻ em và học sinh

• IEEE P7005: Tiêu chuẩn quản lý dữ liệu nhà tuyển dụng minh bạch

• IEEE P7006: Tiêu chuẩn cho tác nhân trí tuệ nhân tạo dữ liệu cá nhân

• IEEE P7007: Tiêu chuẩn bản thể học cho các hệ thống tự động hóa và robot được điều khiển có đạo đức

• IEEE P7008: Tiêu chuẩn thúc đẩy có đạo đức cho các hệ thống robot, thông minh và tự động

• IEEE P7009: Tiêu chuẩn thiết kế an toàn cho các hệ thống tự trị và bán tự trị

• IEEE P7010: Tiêu chuẩn đo lường sức khỏe cho trí tuệ nhân tạo và hệ thống tự trị có đạo đức

• IEEE P7011: Tiêu chuẩn cho quá trình xác định và đánh giá độ tin cậy của các nguồn tin

• IEEE P7012: Tiêu chuẩn cho các điều khoản về quyền riêng tư cá nhân có thể đọc được bằng máy

1.6 Viện Tiêu chuẩn Viễn thông Châu Âu (ETSI)

ETSI có Nhóm Quy định Công nghiệp (ISG) về Trí tuệ Mạng Trải nghiệm (ENI), với mục tiêu là xây dựng các tiêu chuẩn cho hệ thống quản lý mạng nhận thức kết hợp phương pháp điều khiển vòng kín. Cách tiếp cận này dựa trên mô hình “giám sát-phân tích-kế hoạch-thực thi” và sẽ được nâng cao nhờ khả năng học tập.

Hệ thống quản lý mạng nhận thức dự kiến cho phép chỉ đạo việc sử dụng các tài nguyên và dịch vụ mạng sẵn có theo sự phát triển theo thời gian thực của nhu cầu của người dùng, điều kiện môi trường và mục tiêu kinh doanh. Các quyết định được hệ thống đưa ra dựa trên thông tin chi tiết về trạng thái phức tạp của tài nguyên mạng và các chính sách thể hiện sở thích của nhà khai thác.

Giá trị gia tăng duy nhất của phương pháp ISG ENI là định lượng trải nghiệm của người vận hành bằng cách giới thiệu một số liệu cũng như tối ưu hóa và điều chỉnh trải nghiệm của người vận hành theo thời gian bằng cách tận dụng khả năng học máy và suy luận.

Các loại chính sách khác nhau sẽ được xem xét trong nhóm này để thúc đẩy những thay đổi hành vi thích ứng bằng cách sử dụng các cơ chế AI khác nhau. ISG ENI sẽ xem xét và tái sử dụng các giải pháp tiêu chuẩn hiện có ở bất kỳ nơi nào phù hợp cho các chức năng mạng cũ và đang phát triển như quản lý tài nguyên, quản lý dịch vụ, điều phối và quản lý chính sách.

1.7 Hoạt động tiêu chuẩn hóa ở Trung Quốc

 a) Mạng lưới tiêu chuẩn hóa quốc gia về Công nghệ thông tin (SAC/TC 28)

SAC/TC 28 chủ yếu đề cập đến công việc tiêu chuẩn hóa AI liên quan đến từ vựng, giao diện người dùng, nhận dạng tính năng sinh trắc học và các lĩnh vực khác.

Trong lĩnh vực thuật ngữ và từ vựng, đến nay đã có 4 tiêu chuẩn quốc gia cơ bản được ban hành như GB/T 5271.28-2001 Công nghệ thông tin – Từ vựng – Phần 28 Trí tuệ nhân tạo – Các khái niệm cơ bản và hệ thống chuyên gia. Tiểu ban kỹ thuật giao diện người dùng đang chuẩn bị nhiều tiêu chuẩn quốc gia và đã thành lập các nhóm công tác về tương tác cảm biến chuyển động và giao diện não-máy tính để thực hiện các nghiên cứu tiêu chuẩn hóa có liên quan. Tiểu ban kỹ thuật này đã đệ trình đề xuất quốc tế “khuôn khổ giao diện người dùng máy tính cảm xúc công nghệ thông tin”, đã được phê duyệt.

Ban kỹ thuật nhận dạng đặc điểm sinh trắc học đã chuẩn bị các tiêu chuẩn liên quan đến nhận dạng vân tay, khuôn mặt và mống mắt. Ngoài ra, nhóm công tác về tiêu chuẩn dữ liệu lớn của ủy ban kỹ thuật tiêu chuẩn hóa an toàn thông tin quốc gia, nhóm công tác về tiêu chuẩn điện toán đám mây và nhóm công tác về tiêu chuẩn mạng cảm biến quốc gia cũng đang nỗ lực xây dựng các tiêu chuẩn cơ bản để hỗ trợ các công nghệ và ứng dụng liên quan của AI.

b) Ban kỹ thuật quốc gia về hệ thống tự động hóa và tích hợp (SAC/TC 159)

Tiểu ban kỹ thuật SAC/TC 159/SC 2 về thiết bị robot chịu trách nhiệm về các robot công nghiệp hoàn chỉnh, bao gồm giao diện hệ thống, các bộ phận, bộ điều khiển, v.v. Tiểu ban này đã đưa ra một số tiêu chuẩn như GB/T 17887-1999 Robot công nghiệp – Hệ thống trao đổi bộ phận tác động cuối tự động – Từ vựng và cách trình bày đặc điểm.

c) Ban kỹ thuật quốc gia về âm thanh, video, đa phương tiện và thiết bị (SAC/TC 242)

Ban kỹ thuật SAC/TC 242 đã thực hiện các nghiên cứu về các tiêu chuẩn liên quan cho các sản phẩm âm thanh, video và chăm sóc sức khỏe thông minh. Các tiêu chuẩn hiện tại bao gồm các phương pháp đánh giá chủ quan chẳng hạn đối với âm thanh thực tế ảo (2017-0279T-SJ).

d) Ban kỹ thuật quốc gia về an toàn thông tin (SAC/TC 260)

Ban kỹ thuật SAC/TC 260 đã xây dựng các tiêu chuẩn liên quan đến bảo mật trong các lĩnh vực như nhận dạng tính năng sinh trắc học, thành phố thông minh và sản xuất thông minh bằng cách tập trung vào công nghệ AI.

Ban kỹ thuật quốc gia về hệ thống giao thông thông minh (SAC/TC 268)

Ban kỹ thuật SAC/TC 268 đã thực hiện công việc tiêu chuẩn hóa trong lĩnh vực giao thông thông minh. Ban kỹ thuật cũng đã xây dựng các tiêu chuẩn như GB/T 31024.2-2014: Hệ thống giao thông thông minh hợp tác – Truyền thông tầm ngắn chuyên dụng – Phần 2: Đặc điểm kỹ thuật cho lớp kiểm soát truy cập trung bình và lớp vật lý.

1.8 Hoạt động tiêu chuẩn hóa tại Hoa Kỳ

Hoa Kỳ hiện không có bất kỳ chính sách hoặc tiêu chuẩn nào liên quan đến AI và có vẻ như việc tạo ra chúng không phải là ưu tiên hàng đầu của chính quyền hiện tại. Một số công ty tư nhân có trụ sở tại Hoa Kỳ làm việc trong lĩnh vực AI đã hợp tác cùng với một số công ty đa quốc gia để thành lập Đối tác về AI, nhằm phát triển và chia sẻ các phương pháp hay nhất. Ngoài ra còn có ngày càng nhiều viện nghiên cứu và tổ chức phi chính phủ làm việc về các vấn đề chính sách, đạo đức và an toàn liên quan đến AI. Thay vì dựa vào chính phủ, có vẻ như các sáng kiến hợp tác tư nhân như Quan hệ đối tác về AI có thể là nguồn cung cấp một số loại tiêu chuẩn cho các công ty có trụ sở tại Hoa Kỳ trong tương lai gần.

Cần lưu ý rằng chính quyền trước đó quan tâm nhiều hơn đến việc thiết lập các chính sách và tiêu chuẩn và đã xuất bản hai báo cáo được trích dẫn rộng rãi về những thách thức và cơ hội của AI. Tuy nhiên, những tài liệu này chỉ có thể được truy cập như một phần của kho lưu trữ chính thức của chính quyền trước đó và tại thời điểm viết bài, vẫn chưa hoàn toàn rõ ràng liệu chúng có được chính quyền hiện tại tận dụng hay không.

1.9 Liên minh AI Châu Âu

AI đang tác động đến các ngành công nghiệp quan trọng của châu Âu như chăm sóc sức khỏe, nông nghiệp hoặc hành chính công. AI cũng đang thúc đẩy các cơ hội kinh doanh cho ngành công nghiệp châu Âu, các doanh nghiệp vừa và nhỏ và các công ty khởi nghiệp, đồng thời góp phần tăng trưởng năng suất ở châu Âu. Do đó, EC đang thành lập Liên minh AI Châu Âu để thảo luận về tương lai của AI.

EC đã cam kết phát triển một chiến lược toàn diện về AI nhằm giải quyết các mối quan tâm chính đáng trong việc đảm bảo niềm tin và nhận thức, bao gồm tất cả các bên liên quan (doanh nghiệp, học giả, nhà hoạch định chính sách, tổ chức người tiêu dùng, tổ chức thương mại và các đại diện khác của xã hội dân sự). Do đó, EC có kế hoạch thành lập Liên minh AI châu Âu để hoạt động như một diễn đàn đa bên nhằm tham gia vào tất cả các khía cạnh của phát triển AI và tác động của nó đối với xã hội và nền kinh tế.

Bước đầu tiên để thành lập Liên minh AI Châu Âu này là thành lập một nhóm chuyên gia cấp cao về AI, nhóm này sẽ đóng vai trò là nhóm chỉ đạo cho công việc của liên minh và ngoài ra sẽ có nhiệm vụ tư vấn cho EC về những thách thức AI trung và dài hạn. và cơ hội. Nhóm chuyên gia sẽ hỗ trợ EC về các cơ chế tham gia và tiếp cận với các sáng kiến khác cũng như đề xuất các hướng dẫn về đạo đức AI. Việc mời chuyên gia cấp cao đã hoàn thành vào tháng 4/2018 và dự kiến nhóm sẽ bắt đầu hoạt động vào nửa cuối năm 2018.

1.10 Liên minh và các tổ chức khác

Các vấn đề về tiêu chuẩn và quy tắc dành cho AI ngày càng nhận được sự quan tâm không chỉ của công chúng mà còn của các công ty, tổ chức nghiên cứu và tập đoàn công nghiệp. Bản thân các công ty công nghệ đang ngày càng xem xét các hậu quả về mặt đạo đức, kinh tế và xã hội của các sản phẩm và dịch vụ AI mà họ đang phát triển, cũng như các tiêu chuẩn và quy tắc có thể được yêu cầu.

Một số công ty công nghệ lớn nhất thế giới thậm chí còn thành lập các nhóm đạo đức chuyên trách và thành lập ban giám sát để giúp trả lời một số câu hỏi này và giám sát nỗ lực của công ty họ. Hầu hết các hoạt động ngày nay đều tập trung vào việc nâng cao nhận thức cộng đồng và phát triển các quy tắc ứng xử nội bộ cho các nhà phát triển và thiết kế. Những nỗ lực như vậy không nhằm mục đích tạo ra các giải pháp phù hợp cho tất cả mà là phát triển quan điểm sáng suốt của công ty thông qua các thử nghiệm nội bộ về loại tiêu chuẩn và quy tắc nào có thể hoạt động tốt nhất.

Loại công việc nội bộ này đặt nền tảng có giá trị cho việc thu hút nhiều bên liên quan khác. Có lẽ sáng kiến nổi bật nhất trong nhận thức của công chúng nhằm gắn kết các bên liên quan lại với nhau là Quan hệ đối tác về AI, một tập đoàn đang phát triển gồm hơn 50 công ty công nghệ lớn nhất và các tổ chức nghiên cứu tập trung vào AI. Mục đích của nó là đảm bảo rằng AI mang lại lợi ích cho con người và xã hội. Điều này sẽ đạt được thông qua nghiên cứu hợp tác về tác động và thiết kế của hệ thống AI, phát triển và chia sẻ các phương pháp hay nhất, cũng như giáo dục cộng đồng và sự tham gia của nhiều bên liên quan bên ngoài. Mặc dù Quan hệ đối tác về AI vẫn đang trong giai đoạn xây dựng và chưa công bố bất kỳ nghiên cứu nào nhưng nó có những yếu tố cần thiết để đóng góp có giá trị cho cuộc tranh luận trong tương lai gần.

Các tổ chức khác như Hiệp hội Hoàng gia và Hội đồng Công nghiệp Công nghệ Thông tin đang nêu bật các lĩnh vực cần tiếp tục nghiên cứu về các tiêu chuẩn. Ngoài công việc của các công ty tư nhân và tập đoàn, còn có hơn chục tổ chức nghiên cứu có uy tín hiện đang xem xét tác động của việc phát triển AI, thường là để đảm bảo việc tạo ra AI nói chung một cách an toàn.

Xem thêm các tổ chức quốc tế, khu vực và quốc gia tham gia xây dựng tiêu chuẩn về Trí tuệ nhân tạo (AI)

2 Khoảng trống của hoạt động tiêu chuẩn hóa

Mục này liệt kê một số khoảng trống của hoạt động tiêu chuẩn hóa mở cần được giải quyết để giải quyết các thách thức được liệt kê trong các phần trước. Với sự phát triển của công nghệ và sự gia tăng của các kịch bản ứng dụng, nhiều tiêu chuẩn cần được cải tiến hoặc bổ sung. Những lỗ hổng này có thể bao gồm từ việc phối hợp phát triển nguồn mở và tiêu chuẩn hóa đến các phương pháp biểu diễn mạng thần kinh, đánh giá hiệu suất, thuật toán học máy và các lỗ hổng bảo mật liên quan đến AI.

2.1 Mô hình dữ liệu và ngữ nghĩa hài hòa

Máy học phụ thuộc vào dữ liệu mà nó được huấn luyện. Tuy nhiên, các ứng dụng máy học có thể phụ thuộc vào các nguồn dữ liệu khác nhau được phân bổ trên nhiều miền khác nhau. Khi dữ liệu thiếu khả năng ngữ nghĩa, hệ thống AI sẽ không thể sử dụng đầy đủ các nguồn dữ liệu khác nhau này vì chúng không được xử lý theo cách mà cả máy móc và con người đều có thể hiểu được. Ngoài ra, cấu trúc và định dạng dữ liệu phải được thống nhất. Đặc biệt đối với máy học, vấn đề này là một vấn đề quan trọng vì đối với nhiều ứng dụng, dữ liệu cần thiết từ nhiều nguồn khác nhau.

Ngày nay, những nỗ lực theo từng miền cụ thể nhằm chuẩn hóa các mô hình thông tin và dữ liệu đã tồn tại. Tuy nhiên, vẫn còn thiếu sự phối hợp giữa những nỗ lực này. Vì lợi ích của AI, cần phải phối hợp và đảm bảo cách tiếp cận đồng nhất để chuẩn hóa các mô hình thông tin và dữ liệu trên các lĩnh vực khác nhau.

2.2 Bản thể luận chung dựa trên mô hình dữ liệu

Đã có nhiều hoạt động liên quan đến ontology trong các lĩnh vực khác nhau. Bởi vì học máy sẽ không bị giới hạn trong một miền mà thường sẽ bao gồm nhiều miền, nên các bản thể luận phụ thuộc vào miền này phải được hài hòa. Cần có nỗ lực để phối hợp các hoạt động giữa các lĩnh vực khác nhau và chuẩn hóa một bản thể luận chung.

2.3 Xác minh thuật toán trí tuệ nhân tạo

Việc xác minh các thuật toán AI là cần thiết để đảm bảo rằng chúng tuân thủ tất cả các yêu cầu an toàn hiện hành. Thuật toán AI khác với các thuật toán khác chủ yếu ở chỗ chúng thay đổi trong thời gian chạy. Những thay đổi trong môi trường cũng có thể ảnh hưởng đến hoạt động của thuật toán tự học. Tài liệu chính xác về nhiệm vụ thuật toán AI là một thách thức và có thể được hưởng lợi từ việc tiêu chuẩn hóa. Cần làm rõ những yêu cầu nào mà thuật toán AI hoặc toàn bộ hệ thống chứa nó sẽ phải được xác minh. Người ta cũng đặt câu hỏi liệu việc xác minh một lần có hữu ích hay không hoặc liệu việc kiểm tra theo chu kỳ có phù hợp hay không [83].

Hệ thống AI cần các thông số chứng nhận về các khía cạnh khác nhau như chức năng, hiệu suất, bảo mật, tuân thủ hoặc khả năng tương tác để đảm bảo chất lượng và tính sẵn sàng của sản phẩm AI nhằm hỗ trợ sự phát triển bền vững của ngành AI. Chứng nhận có thể bao gồm kiểm tra, đánh giá và các nhiệm vụ khác. Đối tượng đánh giá có thể là hệ thống lái tự động, robot dịch vụ hoặc các sản phẩm AI khác. Kết quả đánh giá có thể thu được thông qua các chỉ số đo lường được và hệ thống đánh giá định lượng dựa trên các quy trình và phương pháp đã được tiêu chuẩn hóa.

2.4 Đo điểm chuẩn và đánh giá cơ sở hạ tầng trí tuệ nhân tạo

Với cơ sở hạ tầng và nền tảng liên tục được phát triển với thiết kế sáng tạo, kiến trúc cải tiến và các thành phần phần cứng mới, cần có các tiêu chuẩn để đo điểm chuẩn và đánh giá nền tảng về chức năng, hiệu suất hoặc khả năng mở rộng. Việc đánh giá cơ sở hạ tầng có thể sử dụng thuật toán học máy chung hoặc khối lượng công việc theo kịch bản cụ thể (ví dụ: giám sát tình trạng, video giám sát). Điểm chuẩn và đánh giá có thể giúp người dùng chọn nền tảng phù hợp nhất với nhu cầu cá nhân của họ