IBM ra mắt công cụ phát hiện AI có “nói dối” hay không?

IBM đã tung ra một dịch vụ phần mềm chuyên quét các hệ thống AI khi chúng hoạt động để phát hiện ra sự thiên vị và cung cấp các giải thích cho các quyết định được đưa ra bởi AI.

Hệ thống tin cậy và minh bạch mới chạy trên Cloud của IBM và làm việc với các model được xây dựng từ một loạt các machine learning framework và AI – bao gồm công nghệ Watson của chính IBM, cũng như là Tensorflow, SparkML, AWS SageMaker và AzureML.

SaaS (chạy hoàn toàn tự động) giúp giải thích việc ra quyết định và phát hiện liệu AI có đang thiên vị hay không- vì vậy khi các quyết định được đưa ra – nó sẽ có khả năng xác định được các kết quả có thể không được công bằng.