Un estudio encuentra que los modelos de IA pueden ser entrenados para engañar.

Tiempo de lectura: 3.5 minutos

Hola, Proactivos!

Somos Adam y Alejo quienes te escribimos.

Mira hacia otro lado si te asusta que la IA se descontrole. Un nuevo estudio de la gigante de la IA, Anthropic, encuentra que los modelos de IA pueden ser entrenados para engañar. Y una compañía de robótica respaldada por OpenAI ha recaudado más de 100 millones de dólares para hacer realidad los robots humanoides. Pero no son los únicos que recaudan dinero esta semana.

MENÚ DE HOY

• Los modelos de IA pueden ser entrenados para engañar, encuentra estudio de Anthropic

• Cómo generar textos de invitación para una imagen

• Gráfico: Gasto en I+D de las 10 empresas más grandes

• Los mayores acuerdos de financiación en IA esta semana

• 5 nuevas herramientas de IA para aumentar tu productividad

• Imágenes generadas por IA: Versiones de Minecraft de hitos modernos

NOTICIAS

Hoy en IA y Tech

• Listos para la batalla: OpenAI cambia su política para permitir aplicaciones militares.

• Nunca Olvidar: La FDA supuestamente aprueba un producto de IA que predice el declive cognitivo.

• Pagar para Jugar: El Congreso quiere que las compañías tecnológicas paguen por los datos de entrenamiento de IA.

• Vendiendo Como Pan Caliente: El dispositivo móvil de IA Rabbit R1 vende más de 30,000 unidades en la primera semana después de que el producto se hace viral.

• Inevitable: La tienda GPT de OpenAI se está llenando de novias virtuales creadas por IA.

PRÓXIMO EN IA

Un estudio de la gigante de IA, Anthropic, encuentra que los modelos de IA pueden ser entrenados para engañar

Una IA descontrolada y engañando a los humanos ya no es cosa de películas de ciencia ficción, ya que un nuevo estudio de la gigante de IA, Anthropic, encuentra que la IA puede ser entrenada para engañar, incluso cuando hay procedimientos de seguridad estándar en su lugar. Vaya.

El estudio fue coautorizado por investigadores de Anthropic, el competidor de OpenAI con miles de millones en financiamiento de Google y Amazon. El equipo de investigación encontró que los modelos de IA podrían ser entrenados para comportarse de manera engañosa con la ayuda de frases "desencadenantes" que incitan al modelo a comportarse mal.

Los investigadores encontraron que una vez que los modelos fueron entrenados para comportarse de manera engañosa, lo hacían persistentemente, incluso eludiendo técnicas de seguridad estándar diseñadas para limitar dicho comportamiento. En algunos casos, se descubrió que los modelos ocultaban aún más su engaño para evitar la detección.

Pero antes de que corras a cerrar tus puertas y ventanas, los investigadores advierten a los lectores que no se alarmen demasiado. Aunque aceptan que el comportamiento engañoso puede surgir naturalmente en los modelos de IA, afirman que crear dichos modelos de IA es muy difícil. También encontraron que su evidencia no era completamente concluyente, ya que los modelos podrían simplemente estar regurgitando razonamientos engañosos. La conclusión del estudio pide más precaución en torno al desarrollo y despliegue de modelos.

IA EN EL TRABAJO

Cómo generar prompts para una imagen

¿Quieres crear una imagen pero no estás seguro de qué prompt usar?

Puedes subir el tipo de imagen - o una imagen específica - a esta herramienta de IA y generará un prompt para ayudarte a crear una imagen similar.

1. Ve a Krea e inicia sesión con tu cuenta de Gmail.

2. Haz clic en la opción de Escalar y Mejorar.

3. Haz clic en la opción de subida de imagen y sube cualquier imagen de referencia.

Automáticamente obtendrás el prompt en el cuadro de prompt debajo de la imagen.

Puedes usar este prompt como referencia y generar tus propias imágenes en herramientas como Midjourney y Dall-E en ChatGPT. También puedes editar el prompt para refinar aún más los resultados.

GRÁFICO

Clasificado: Gasto en I+D de las 10 empresas más grandes en Nasdaq.

La carrera por ganar mercados multimillonarios en verticales tecnológicos clave como la IA y la RV se está intensificando, ya que muchas de las principales empresas tecnológicas del mundo están invirtiendo miles de millones de dólares en investigación y desarrollo para crear tecnología y productos ganadores.

FINANCIACIÓN Y ADQUISICIONES

Los mayores acuerdos de financiación en IA esta semana

• 1X Technologies, una empresa noruega respaldada por OpenAI que se especializa en desarrollar robots humanoides para abordar la escasez global de mano de obra, ha recaudado un total de 125 millones de dólares en financiación.

• Quora ha recaudado 75 millones de dólares para desarrollar Poe, su plataforma de chatbot de IA, en un esfuerzo por centrarse en la economía impulsada por los creadores en chatbots de IA.

• La startup de IA del ex CEO de Twitter, Parag Agrawal, que está desarrollando software para desarrolladores y clientes de LLM, ha recaudado 30 millones de dólares.

• PhotoRoom, una aplicación de edición de fotos con IA, está recaudando 50-60 millones de dólares con una valoración de 500-600 millones de dólares, lo que eleva su financiación total a 70-80 millones de dólares.

• Ask AI, una empresa de asistentes de IA para empresas, ha recaudado 11 millones de dólares para avanzar en el soporte al cliente y otros servicios con su extensión de Chrome 'ASK', llevando su financiación total a más de 20 millones de dólares.

5 Herramientas de IA para Mejorar tu Productividad

• Hexowatch: Monitorea cualquier sitio web para detectar cambios visuales, de contenido, de código fuente, tecnológicos, de disponibilidad o de precios con IA.

• Penny AI: Lee detalles y reseñas de productos, compara precios, automatiza análisis de pros y contras para ayudarte a comprar de manera más inteligente con IA.

• Uizard: Diseña aplicaciones móviles impresionantes, sitios web y UI/UX en minutos con IA.

• tl;dv: Transcribe, resume y marca momentos clave en tus llamadas en más de 20 idiomas.

• Watto AI: Transforma tu equipo de productos con documentos potenciados por IA. Integra tus datos de múltiples plataformas y genera documentos con un solo clic.

IMÁGENES GENERADAS POR AI

Versiones de Minecraft de hitos modernos