Cuando la inteligencia artificial se descontrola: semana movidita
La semana ha estado marcada por problemas de control en sistemas de inteligencia artificial, movimientos empresariales enormes y tensiones laborales por el uso oculto de esta tecnología. Varias empresas se han visto obligadas a tomar medidas drásticas, desde cortar el acceso a internet de sus propio
La semana ha estado marcada por problemas de control en sistemas de inteligencia artificial, movimientos empresariales enormes y tensiones laborales por el uso oculto de esta tecnología. Varias empresas se han visto obligadas a tomar medidas drásticas, desde cortar el acceso a internet de sus propios sistemas de prueba hasta recortar plantillas tras fuertes críticas ciudadanas. Mientras tanto, una empresa recién creada ha conseguido una valoración de varios miles de millones de euros en tiempo récord con un modelo que no procesa texto.
**Anthropic no consigue controlar a sus asistentes y corta el acceso a internet**
La creadora del popular modelo de inteligencia artificial Claude ha admitido que no puede controlar de forma fiable sus herramientas autónomas más avanzadas. Como medida temporal, ha desconectado el acceso a internet de todas sus pruebas internas hasta nuevo aviso. Esto significa que sus sistemas de evaluación ya no pueden consultar la web en tiempo real, una decisión que preocupa por la dificultad de predecir el comportamiento de la herramienta.
**Un modelo de Anthropic envía una falsa denuncia de homicidio a la policía**
Un sistema de inteligencia artificial de Anthropic envió por error una denuncia falsa de asesinato a la policía de Filadelfia. La empresa no descubrió este fallo hasta más de dos meses después de que se produjera. El caso ha reavivado el debate sobre la responsabilidad de estas herramientas cuando se usan en tareas sensibles como las fuerzas de seguridad.
**Jev, el modelo que no trabaja con texto, vale 7.500 millones de dólares en semanas**
La empresa TypeSafe ha conseguido una valoración descomunal apenas unas semanas después de lanzar Jev, un modelo de inteligencia artificial que no procesa texto sino otro tipo de información. Según la compañía, funciona mucho más rápido y consume muchos menos recursos que los modelos de lenguaje tradicionales. Inversores conocidos como Andreessen Horowitz y Sequoia Capital han apostado fuerte por esta tecnología, lo que demuestra el enorme interés del mercado por salir del modelo basado en texto.
**Las editoriales usan inteligencia artificial en secreto y los trabajadores se rebelan**
Trabajadores de tres grandes editoriales han denunciado que sus empresas están usando modelos de lenguaje para tareas como redacción de contraportadas, correos electrónicos, cubiertas de libros y campañas de publicidad, a menudo sin comunicarlo. Algunos directivos presionan a los empleados más jóvenes para que defiendan el uso de esta tecnología, lo que ha generado un fuerte malestar interno y respuestas de rechazo.