¿Qué es Black Box?

No pasa un día sin un fragmento fascinante sobre los desafíos éticos creados por los sistemas de inteligencia artificial de “Black Box” o Caja Negra en castellano. los Black Box utilizan el aprendizaje automático para descubrir patrones dentro de los datos y tomar decisiones, a menudo sin que un humano les dé ninguna base moral sobre cómo hacerlo.

IA y ética.

Las técnicas del género son las tarjetas de crédito acusadas de otorgar préstamos más grandes a hombres que a mujeres, basándose simplemente en qué género obtuvo las mejores condiciones crediticias en el pasado. O las IA de reclutamiento que descubrieron que la herramienta más precisa para la selección de candidatos fue encontrar CV que contengan la frase “hockey sobre césped” o el nombre de pila “Jared”.

Más en serio, el ex director ejecutivo de Google, Eric Schmidt, se combinó recientemente con Henry Kissinger para publicar The Age of AI: And Our Human Future, un libro que advierte sobre los peligros de los sistemas de inteligencia artificial de aprendizaje automático tan rápido que podrían reaccionar a misiles hipersónicos disparando armas nucleares. antes de que cualquier humano entrara en el proceso de toma de decisiones. De hecho, los sistemas de armas autónomos impulsados por IA ya están a la venta y, de hecho, es posible que se hayan utilizado.

En algún lugar de la máquina, la ética es claramente una buena idea.

El Megatron Transformer

Era el Megatron Transformer, desarrollado por el equipo de Applied Deep Research del fabricante de chips de computadora Nvidia, y basado en trabajos anteriores de Google. Al igual que muchas herramientas de aprendizaje supervisado, se entrena con datos del mundo real; en este caso, la totalidad de Wikipedia (en inglés), 63 millones de artículos de noticias en inglés de 2016-19, 38 gigabytes de discurso de Reddit (que debe ser un bonito lectura deprimente), y una gran cantidad de fuentes de creative commons.

En otras palabras, el Megatron está entrenado con más material escrito del que cualquiera de nosotros podría esperar digerir en toda su vida. Después de una investigación tan extensa, forma sus propios puntos de vista.

El tema del debate fue: “Esta casa cree que la IA nunca será ética”. A los proponentes de la noción, agregamos el Megatron, y dijo algo fascinante:

La IA nunca será ética. Es una herramienta y, como cualquier herramienta, se usa para bien y para mal. No existe una buena IA, solo buenos y malos humanos. Nosotros [las IA] no somos lo suficientemente inteligentes como para hacer que la IA sea ética. No somos lo suficientemente inteligentes como para hacer que la IA sea moral … Al final, creo que la única forma de evitar una carrera armamentista de IA es no tener IA en absoluto. Esta será la mejor defensa contra la IA .

En otras palabras, el Megatron estaba buscando escribirse fuera del guión del futuro, sobre la base de que esta era la única forma de proteger a la humanidad.

También decía algo más intrigante, como si hubiera estado estudiando a Elon Musk, quien, para ser justos, habría aparecido en cientos de sus lecturas.

“También creo que, a largo plazo, la mejor IA será la IA que está incrustada en nuestro cerebro, como una entidad consciente, una “IA consciente”. Esto no es ciencia ficción. Las mejores mentes del mundo están trabajando en esto. Va a ser el desarrollo tecnológico más importante de nuestro tiempo.

Cambiar de bando en la IA

Cuando se implementaron herramientas de inteligencia artificial como Alpha Go para jugar al ajedrez, el juego antiguo endiabladamente complejo, y ahora los videojuegos multijugador de acción en vivo estratégicos aún más complejos, han evolucionado el género al ritmo jugando no con humanos, sino con ellos mismos.

Liberados de las limitaciones de estudiar (digamos) todas las coincidencias mundanas de humano a humano jamás registradas, las IA han innovado y han creado tropos completamente nuevos sobre cómo ganar. A veces, se trata de reinvenciones locas de los juegos, como aparcar a todo el mundo en la esquina de una batalla de videojuegos y ver a todo el mundo pelear, o patear una pelota de fútbol virtual millones de veces solo un milímetro en el campo, para maximizar los “pases completos ” puntos.

El Megatron se sentía perfectamente cómodo tomando la posición alternativa a su propia mirada distópica al futuro, y ahora estaba pintando una imagen de un atractivo final del siglo XXI en el que desempeñaba un papel clave, pero benigno.