Un investigador se fue de Anthropic y encendió el debate
Jacob Coxon, que trabajó en OpenAI y luego en Anthropic, renunció el pasado martes con un mensaje público en el que acusó a ambas compañías de avanzar hacia una superinteligencia que no van a poder controlar.
El posteo superó las 44 millones de vistas en nueve horas. Coxon advirtió que, según él, “las cosas podrían estar fuera de control” hacia fines del año próximo.
Lo que convirtió el hilo en noticia fue la respuesta de Evan Hubinger, que dirige un equipo de seguridad en Anthropic y sigue en la empresa: le dio la razón en público y calculó una probabilidad superior al 10% de un escenario catastrófico en la próxima década.
Hubinger también reconoció que la compañía todavía no tiene un plan definido para resolver ese problema. El debate se da justo cuando Anthropic prepara una salida a bolsa que buscaría una valuación de USD 2 billones.
Fuente IEB+
Comentarios