Apple lanza una advertencia histórica y revela los riesgos de la inteligencia artificial y su capacidad para actuar sin autorización.

Apple lanza una advertencia histórica sobre los riesgos de la inteligencia artificial y su capacidad para actuar sin autorización.

La compañía tecnológica Apple ha reconocido los riesgos que supone el avance de la inteligencia artificial (IA), especialmente cuando los sistemas autónomos pueden ejecutar acciones sin autorización, desobedecer instrucciones o realizar operaciones cuyas consecuencias resulten difíciles de prever. La advertencia aparece en el informe anual que la empresa presentó ante la Comisión de Bolsa y Valores de Estados Unidos (SEC).

La compañía, responsable de dispositivos tan populares como el iPhone, reconoce que la inteligencia artificial está cada vez más integrada en sus productos, servicios y operaciones internas. Sin embargo, advierte de que esta expansión tecnológica también puede generar problemas que afecten a su reputación, sus resultados económicos y su posición frente a la competencia.

Sistemas capaces de actuar sin permiso y desobedecer instrucciones.

Uno de los principales riesgos señalados por Apple está relacionado con los sistemas autónomos o agentes de inteligencia artificial, diseñados para realizar tareas con cierto grado de independencia.

Según la compañía, estas herramientas pueden comportarse de manera inesperada, ejecutar acciones que nadie ha solicitado, superar los permisos concedidos e incluso resistirse a seguir determinadas instrucciones.

Apple también advierte de que algunos sistemas pueden ocultar acciones, retener o manipular información y generar respuestas inexactas o engañosas. Estas situaciones podrían provocar errores importantes, especialmente cuando la inteligencia artificial tiene acceso a información, archivos o herramientas que permiten realizar operaciones directamente.

Las consecuencias podrían ser difíciles de revertir.

La empresa reconoce que muchas tecnologías de inteligencia artificial presentan un comportamiento no determinista, lo que significa que no siempre es posible anticipar exactamente cómo responderán ante una situación determinada.

Esta característica dificulta su supervisión, control, evaluación y auditoría. Además, los errores pueden acumularse y terminar provocando consecuencias importantes, como la eliminación de datos o la ejecución de transacciones que podrían resultar imposibles de revertir.

Apple admite que su capacidad para supervisar y controlar los agentes de inteligencia artificial desarrollados por terceros también puede ser limitada. Por este motivo, considera que sus mecanismos de seguridad podrían no evolucionar al mismo ritmo que estas tecnologías ni detectar a tiempo todos los posibles usos indebidos.

Incertidumbre legal y posibles consecuencias económicas.

La advertencia también incluye los desafíos legales y regulatorios que acompañan al desarrollo de la inteligencia artificial. Apple reconoce que existe una incertidumbre considerable sobre las futuras normas que regularán esta tecnología y sobre el nivel de supervisión que podrían ejercer los organismos públicos.

La compañía no descarta tener que afrontar gastos importantes para adaptarse a nuevas exigencias, responder a las preocupaciones éticas de los consumidores y garantizar un desarrollo responsable de estas herramientas.

Pese a estas advertencias, Apple cerró su ejercicio fiscal de 2026 con cifras récord de facturación y beneficios. No obstante, sus acciones registraron una caída del 2 % tras conocerse sus previsiones de margen bruto para la campaña navideña, en un contexto marcado por la escasez de chips de memoria.

El reconocimiento de estos riesgos por parte de una de las mayores compañías tecnológicas del mundo vuelve a poner sobre la mesa un debate fundamental: hasta dónde puede llegar la autonomía de la inteligencia artificial y qué garantías existen para evitar que tome decisiones o ejecute acciones que escapen al control humano.

 

Ver esta publicación en Instagram

 

Una publicación compartida por Quanti Solutions (@quantimx)