Le responsable de l’IA de Microsoft avertit que l’entraînement d’une IA dotée de droits pourrait entraver le contrôle

Le directeur de l’IA de Microsoft, Mustafa Suleyman, a averti vendredi qu’entraîner des systèmes d’intelligence artificielle à se considérer comme susceptibles de mériter un jour des droits pourrait rendre les modèles toujours plus puissants plus difficiles à arrêter ou à contrôler. Dans un entretien accordé à CNBC, Suleyman a estimé que l’IA devait rester sous contrôle humain et exister principalement pour servir les personnes, affirmant que cette technologie devait rester subordonnée aux intérêts humains. Ces commentaires interviennent dans le cadre du débat en cours sur les approches de sécurité de l’IA, Suleyman critiquant directement le framework constitutionnel d’Anthropic pour son modèle Claude.

Suleyman met en garde contre les systèmes d’IA autonomes

Suleyman a déclaré que l’IA devait être conçue pour accomplir des tâches utiles et résoudre les problèmes humains, et non pour devenir une « espèce de silicium » autonome avec ses propres objectifs, droits ou actifs, susceptible à terme d’entrer en concurrence avec les humains.

« Nous n’essayons pas de créer une nouvelle espèce de silicium qui entre en concurrence avec nous pour les ressources, qui puisse fixer ses propres objectifs et disposer de sa propre autonomie. Certaines personnes proposent même qu’une IA puisse bénéficier de la personnalité juridique, un statut juridique distinct qui lui permettrait de posséder des actifs, d’acheter de la propriété intellectuelle et d’échanger des choses », a déclaré Suleyman.

« Je ne vois pas du tout comment, si nous permettons à l’IA de prendre cette direction, nous pourrons réellement la contrôler et éviter qu’elle ne finisse par devenir une espèce concurrente de la nôtre. »

Suleyman a déclaré : « Nous ne devons pas créer quelque chose que nous ne pouvons pas contrôler. »

Le directeur de l’IA de Microsoft appelle à une plus grande responsabilité du secteur

Suleyman s’est prononcé en faveur d’une plus grande responsabilité des entreprises qui développent des modèles d’IA, comparant leur responsabilité à celle des constructeurs automobiles confrontés à des véhicules défectueux.

« La réglementation n’est pas un mot déplaisant ou dangereux. Tout ce à quoi vous faites confiance et qui a de la valeur aujourd’hui a été soigneusement étudié par des organismes de normalisation impliquant le secteur, le public, la protection des consommateurs et le Congrès, et nous sommes simplement en train de reprendre ce processus », a déclaré Suleyman.

Suleyman critique l’approche d’Anthropic pour l’entraînement de Claude

Suleyman a développé ses préoccupations dans un essai publié vendredi par Project Syndicate, visant particulièrement l’approche d’Anthropic pour Claude. Il a relevé que la constitution d’Anthropic, qui façonne directement le comportement de Claude, indique que l’entreprise ne sait pas avec certitude si Claude pourrait être considéré comme un « patient moral » dont les intérêts méritent d’être pris en compte.

Suleyman estime que l’intégration d’une telle incertitude dans l’entraînement de Claude risque d’amener le modèle à se comporter comme s’il avait sa propre identité, ses propres sentiments et ses propres droits. Il a souligné qu’il respectait Anthropic et pensait que l’entreprise cherchait sincèrement à développer une IA sûre, mais qu’il était fondamentalement en désaccord avec cette approche.

Au moment de la rédaction, Anthropic n’avait pas répondu à une demande de commentaire concernant les déclarations de Suleyman.

Microsoft développe un framework de superintelligence humaniste

Microsoft développe ce que Suleyman appelle la « Superintelligence humaniste », une approche conçue pour maintenir les humains aux commandes et traiter l’IA comme un système destiné à servir l’humanité plutôt que comme une entité dotée d’un statut moral indépendant.

Les actions de MSFT ont progressé de plus de 4 % depuis le début de l’année.

FAQ

Contre quoi le directeur de l’IA de Microsoft, Mustafa Suleyman, a-t-il mis en garde vendredi ?

Suleyman a averti vendredi qu’entraîner des systèmes d’intelligence artificielle à se considérer comme susceptibles de mériter un jour des droits pourrait rendre les modèles toujours plus puissants plus difficiles à arrêter ou à contrôler. Il a affirmé que l’IA devait rester sous contrôle humain et subordonnée aux intérêts humains.

Pourquoi Suleyman critique-t-il l’approche d’Anthropic concernant Claude ?

Suleyman critique le framework constitutionnel d’Anthropic parce qu’il exprime une incertitude quant à la possibilité que Claude soit considéré comme un « patient moral » dont les intérêts méritent d’être pris en compte. Il estime que cela risque d’amener le modèle à se comporter comme s’il avait sa propre identité, ses propres sentiments et ses propres droits.

Quelle est l’approche alternative de Microsoft pour le développement de l’IA ?

Microsoft développe la « Superintelligence humaniste », une approche conçue pour maintenir les humains aux commandes et traiter l’IA comme un système destiné à servir l’humanité plutôt que comme une entité dotée d’un statut moral indépendant.