Lợi ích của AI đang ngày càng tăng trên nhiều lĩnh vực như chăm sóc sức khỏe, vận tải, sản xuất, v.v. Nhưng vấn đề về niềm tin nảy sinh khi chúng được sử dụng trong các lĩnh vực quan trọng về an toàn như thiết bị y tế, xe tự lái, hệ thống điều khiển công nghiệp và hàng không.

Do đó, việc đảm bảo an toàn cho công nghệ AI đối với các thị trường này là điều cần thiết.

An toàn chức năng là một nguyên tắc nhằm đảm bảo hệ thống, thiết bị và dụng cụ hoạt động như dự định. Các tiêu chuẩn an toàn chức năng rất quan trọng đối với bất kỳ ngành nào mà hệ thống có khả năng gây hại cho con người, tài sản hoặc môi trường nếu chúng bị lỗi.

IEC đưa ra các tiêu chuẩn hướng tới an toàn chức năng, chẳng hạn như loạt tiêu chuẩn IEC 61508 được sử dụng rộng rãi, bao gồm việc thiết kế và thực hiện các biện pháp bảo vệ nhằm ngăn ngừa tai nạn và giảm thiểu rủi ro trong nhiều ngành khác nhau.

Tuy nhiên, những điều này không tính đến các lĩnh vực cụ thể mà AI đóng vai trò.

Cho đến nay, có rất ít hướng dẫn về thông số kỹ thuật, thiết kế và xác minh hệ thống AI an toàn về mặt chức năng hoặc cách áp dụng công nghệ AI cho các chức năng có tác động liên quan đến an toàn.

ISO/IEC TR 5469 là một báo cáo kỹ thuật mới được thiết kế để lấp đầy khoảng trống quan trọng đó. Việc sử dụng nó sẽ giúp phát triển các hệ thống liên quan đến an toàn sử dụng công nghệ AI bằng cách nâng cao nhận thức về các đặc tính, các yếu tố rủi ro an toàn chức năng, các phương pháp an toàn chức năng hiện có và các hạn chế tiềm ẩn của công nghệ AI.

Nó sẽ đóng vai trò là nền tảng cho đặc tả kỹ thuật hiện đang được xây dựng, ISO/IEC TS 22440, sẽ cung cấp hướng dẫn và yêu cầu chi tiết hơn.

ISO/IEC TR 5469 được xây dựng bởi Ủy ban hỗn hợp ISO/IEC/JTC1/SC42  về AI, trong một nhóm làm việc chung kết hợp chuyên môn AI của họ với chuyên môn của IEC TC 65/SC 65A, ủy ban đứng sau loạt an toàn chức năng của tiêu chuẩn IEC 61508.

Thư ký dự án Riccardo Mariani cho biết báo cáo sẽ giúp đảm bảo an toàn chức năng của công nghệ AI, từ đó tạo dựng niềm tin.

Mariani lưu ý: “Báo cáo này sẽ giúp các nhà xây dựng tiêu chuẩn hiểu được những thách thức và giải pháp hiện có để tạo ra các ứng dụng AI an toàn, bao gồm cả sự tập trung mạnh mẽ vào việc xác minh và cải tiến liên tục”.

Chủ tịch ISO/IEC/JTC1/SC42 , Wael William Diab nói thêm: “Việc xem xét cách các hệ thống AI có thể được triển khai trong môi trường an toàn chức năng giúp đảm bảo việc áp dụng có trách nhiệm trên nhiều lĩnh vực ứng dụng hơn, tiếp tục mở ra những lợi ích của AI”.

ISO/IEC/JTC1/SC42  xây dựng các tiêu chuẩn quốc tế về AI, áp dụng cách tiếp cận toàn diện để xem xét toàn bộ hệ sinh thái AI. Nó xem xét năng lực công nghệ và các yêu cầu phi kỹ thuật, chẳng hạn như các yêu cầu về kinh doanh, quy định và chính sách, nhu cầu về miền ứng dụng cũng như các mối quan tâm về đạo đức và xã hội.

Ủy ban tổ chức các hội thảo thường xuyên về AI để thảo luận về các xu hướng, công nghệ, yêu cầu và ứng dụng mới nổi cũng như vai trò của các tiêu chuẩn. Họ tập hợp các nhà đổi mới ở tuyến đầu phát triển AI từ các địa điểm, lĩnh vực và nền tảng khác nhau tham gia vào nghiên cứu, triển khai, tiêu chuẩn hóa, khởi nghiệp, ứng dụng và giám sát.