Des manchots pour dompter l’IA ? Cette méthode casse le mystère derrière l’effet « boîte noire »
Key Takeaways
- 1La plupart des algorithmes performants actuels – notamment l’apprentissage profond (deep learning) et ses réseaux de neurones – fonctionnent comme des boîtes noires.
- 2On sait qu’ils donnent de bons résultats, mais impossible de comprendre leur logique interne.
- 3Ceci pose problème pour de nombreux domaines d’application (médecine, justice…), ce qui incite les régulateurs à exiger des systèmes « explicables ».
- 4Plusieurs pistes vers l’explicabilité existent.
- 5Zoom sur la « prétopologie ».
La plupart des algorithmes performants actuels – notamment l’apprentissage profond (deep learning) et ses réseaux de neurones – fonctionnent comme des boîtes noires. On sait qu’ils donnent de bons résultats, mais impossible de comprendre leur logique interne. Ceci pose problème pour de nombreux domaines d’application (médecine, justice…), ce qui incite les régulateurs à exiger des systèmes « explicables ». Plusieurs pistes vers l’explicabilité existent. Zoom sur la « prétopologie ».