Lợi ích của AI đang ngày càng tăng trên nhiều lĩnh vực như chăm sóc sức khỏe, vận tải, sản xuất, v.v. Nhưng vấn đề về niềm tin đối với AI nảy sinh khi chúng được sử dụng trong các lĩnh vực quan trọng về an toàn như thiết bị y tế, xe tự lái, hệ thống điều khiển công nghiệp và hàng không.

Do đó, việc đảm bảo an toàn cho công nghệ AI cho các thị trường này là điều cần thiết.

An toàn về chức năng là một nguyên tắc nhằm đảm bảo hệ thống, thiết bị và dụng cụ hoạt động như dự định. Các tiêu chuẩn an toàn về chức năng rất quan trọng đối với bất kỳ ngành nào mà hệ thống có khả năng gây hại cho con người, tài sản hoặc môi trường nếu chúng bị lỗi.

Ủy ban kỹ thuật Điện Quốc tế IEC đã xây dựng các tiêu chuẩn hướng tới an toàn về chức năng, chẳng hạn như bộ tiêu chuẩn IEC 61508 được sử dụng rộng rãi, bao gồm việc thiết kế và thực hiện các biện pháp bảo vệ nhằm ngăn ngừa tai nạn và giảm thiểu rủi ro trong nhiều ngành khác nhau.

Tuy nhiên, những điều này không tính đến các lĩnh vực cụ thể mà Trí tuệ nhân tạo AI đóng góp.

Cho đến nay, có rất ít hướng dẫn về thông số kỹ thuật, thiết kế và xác minh hệ thống AI an toàn về mặt chức năng hoặc cách áp dụng công nghệ AI cho các chức năng có tác động liên quan đến an toàn.

ISO/IEC TR 5469 là một báo cáo kỹ thuật mới được thiết kế để lấp đầy khoảng trống quan trọng đó. Việc sử dụng Tài liệu này sẽ giúp phát triển các hệ thống liên quan đến an toàn sử dụng công nghệ Trí tuệ nhân tạo AI bằng cách nâng cao nhận thức về các đặc tính, các yếu tố rủi ro an toàn chức năng, các phương pháp an toàn chức năng hiện có và các hạn chế tiềm ẩn của công nghệ Trí tuệ nhân tạo AI.

Tài liệu sẽ đóng vai trò là nền tảng cho đặc tả kỹ thuật hiện đang được phát triển, ISO/IEC TS 22440, sẽ cung cấp hướng dẫn và yêu cầu chi tiết hơn.

ISO/IEC TR 5469 được xây dựng bởi Tiểu ban kỹ thuật thuộc SC42 của Ban kỹ thuật hỗn hợp ISO/IEC JTC1  về Trí tuệ nhân tạo AI,  và Tiểu ban kỹ thuật IEC TC 65/SC 65A trực tiếp xây dựng bộ tiêu chuẩn về an toàn chức năng IEC 61508.

Ông Riccardo Mariani, thành viên của Dự án cho biết Báo cáo kỹ thuật ISO/IEC TR 5469 sẽ giúp đảm bảo an toàn chức năng của công nghệ AI, từ đó tạo dựng niềm tin. Ông Mariani cũng lưu ý: “Báo cáo kỹ thuật ISO/IEC TR 5469 này sẽ giúp các nhà phát triển hiểu được những thách thức và giải pháp hiện có để tạo ra các ứng dụng AI an toàn, bao gồm cả sự tập trung mạnh mẽ vào việc xác minh và cải tiến liên tục”.

Trưởng Tiểu ban kỹ thuật SC 42, Wael William Diab cho biết thêm: “Việc xem xét cách các hệ thống AI có thể được triển khai trong môi trường an toàn về chức năng giúp đảm bảo việc áp dụng có trách nhiệm trên nhiều lĩnh vực ứng dụng hơn, tiếp tục mở ra những lợi ích của AI”.

Tiểu ban kỹ thuật SC 42 xây dựng các tiêu chuẩn quốc tế về AI, áp dụng cách tiếp cận toàn diện để xem xét toàn bộ hệ sinh thái AI. Điều này cho phép xem xét năng lực công nghệ và các yêu cầu phi kỹ thuật, chẳng hạn như các yêu cầu về kinh doanh, quy định và chính sách, nhu cầu về miền ứng dụng cũng như các mối quan tâm về đạo đức và xã hội.

Tiểu ban kỹ thuật SC 42 tổ chức thường xuyên các hội thảo về AI để thảo luận về các xu hướng, công nghệ, yêu cầu và ứng dụng mới nổi cũng như vai trò của các tiêu chuẩn. Họ tập hợp các nhà đổi mới ở tuyến đầu trong việc phát triển AI từ các địa điểm, lĩnh vực và nền tảng khác nhau tham gia vào nghiên cứu, triển khai, tiêu chuẩn hóa, khởi nghiệp, ứng dụng và giám sát.