Incorporer la moralité de manière rigide dans les systèmes d'IA ? C'est jouer avec le feu.

Il existe un véritable risque lorsqu'on tente d'imposer des règles morales explicites dans l'intelligence artificielle. Le danger n'est pas théorique — il concerne ce qui se passe lorsque ces éthiques programmées entrent en conflit avec des scénarios complexes du monde réel.

Réfléchissez-y : à qui appartient cette moralité codée ? Ce qui fonctionne dans un contexte peut échouer catastrophiquement dans un autre. Des cadres moraux rigides pourraient conduire l'IA à prendre des décisions qui semblent "éthiques" selon le manuel, mais qui causent en réalité des dommages.

La question n'est pas de savoir si l'IA doit être éthique. C'est si nous pouvons même définir un code moral universel qui ne se retournerait pas contre nous lorsque le silicium rencontre la réalité.