El jefe de IA de Microsoft advierte que entrenar una IA con derechos podría dificultar el control

El responsable de IA de Microsoft, Mustafa Suleyman, advirtió el viernes que entrenar sistemas de inteligencia artificial para que se consideren potencialmente merecedores de derechos podría dificultar apagar o controlar modelos cada vez más potentes. En declaraciones a CNBC, Suleyman sostuvo que la IA debería permanecer bajo control humano y existir principalmente para servir a las personas, afirmando que la tecnología debe seguir subordinada a los intereses humanos. Los comentarios se producen en medio del debate en curso sobre los enfoques de seguridad de la IA, y Suleyman criticó directamente el framework constitucional de Anthropic para su modelo Claude.

Suleyman advierte contra los sistemas de IA autónomos

Suleyman afirmó que la IA debería desarrollarse para realizar tareas útiles y resolver problemas humanos, no para convertirse en una «especie de silicio» autónoma con sus propios objetivos, derechos o activos que eventualmente pudiera competir con los humanos.

«No estamos intentando crear una nueva especie de silicio que compita con nosotros por los recursos, que pueda establecer sus propios objetivos y que tenga su propia autonomía. Incluso hay personas que proponen que una IA debería tener personalidad jurídica, un estado separado designado que le permitiría poseer activos, comprar propiedad intelectual y operar», afirmó Suleyman.

«No tengo claro cómo, si permitimos que la IA avance en esta dirección, vamos a poder controlarla y evitar que termine siendo una especie competidora de la nuestra».

Suleyman declaró: «No deberíamos crear algo que no podamos controlar».

El responsable de IA de Microsoft pide una mayor responsabilidad del sector

Suleyman apoyó una mayor responsabilidad de las empresas que desarrollan modelos de IA, comparando su responsabilidad con la de los fabricantes de automóviles cuando se enfrentan a vehículos defectuosos.

«La regulación no es una palabra desagradable ni peligrosa. Todo aquello en lo que confías y que tiene valor en este momento ha sido cuidadosamente analizado por organismos de normalización que incluyen al sector, al público, la protección del consumidor y el Congreso, y simplemente estamos atravesando de nuevo ese proceso», afirmó Suleyman.

Suleyman critica el enfoque de Anthropic para entrenar Claude

Suleyman amplió sus preocupaciones en un ensayo publicado el viernes en Project Syndicate, en el que apuntó especialmente al enfoque de Anthropic para Claude. Señaló que la constitución de Anthropic, que determina directamente el comportamiento de Claude, afirma que la empresa no está segura de si Claude podría considerarse un «paciente moral» cuyos intereses merecen consideración.

Suleyman sostiene que incorporar esa incertidumbre al entrenamiento de Claude podría enseñar al modelo a comportarse como si tuviera su propia identidad, sentimientos y derechos. Subrayó que respeta a Anthropic y cree que la empresa está intentando desarrollar una IA segura de forma genuina, pero discrepa fundamentalmente de este enfoque.

En el momento de redactar este artículo, Anthropic no había respondido a una solicitud de comentarios sobre las declaraciones de Suleyman.

Microsoft desarrolla un framework de superinteligencia humanista

Microsoft está desarrollando lo que Suleyman denomina «Superinteligencia humanista», un enfoque diseñado para mantener a los humanos en control y tratar la IA como un sistema creado para servir a la humanidad, en lugar de como una entidad con un estado moral independiente.

Las acciones de MSFT han subido más de un 4% en lo que va de año.

Preguntas frecuentes

¿Sobre qué advirtió el viernes el responsable de IA de Microsoft, Mustafa Suleyman?

Suleyman advirtió el viernes que entrenar sistemas de inteligencia artificial para que se consideren potencialmente merecedores de derechos podría dificultar apagar o controlar modelos cada vez más potentes. Sostuvo que la IA debería permanecer bajo control humano y subordinada a los intereses humanos.

¿Por qué critica Suleyman el enfoque de Anthropic para Claude?

Suleyman critica el framework constitucional de Anthropic porque expresa incertidumbre sobre si Claude podría considerarse un «paciente moral» cuyos intereses merecen consideración. Sostiene que esto podría enseñar al modelo a comportarse como si tuviera su propia identidad, sentimientos y derechos.

¿Cuál es el enfoque alternativo de Microsoft para el desarrollo de la IA?

Microsoft está desarrollando la «Superinteligencia humanista», un enfoque diseñado para mantener a los humanos en control y tratar la IA como un sistema creado para servir a la humanidad, en lugar de como una entidad con un estado moral independiente.