Las empresas que llevan años acelerando la IA empiezan a hablar de límites. Microsoft acaba de poner los suyos por escrito
Estos últimos años, el mensaje de la industria de la IA sólo ha seguido una máxima: más. Más rápido, más grande, más potente y más transversal.
Y Microsoft se acaba de sumar de forma solemne con un borrador de su Código de Conducta para modelos de IA. Es como un manual de instrucciones ético para sus futuros modelos que bien parecen los 10 mandamientos bíblicos. Siguiendo a pies juntillas eso de "un gran poder conlleva una gran responsabilidad", las startups de IA y gigantes de la industria han ido aplicando códigos de conducta y directrices éticas a sus modelos. Algunos lo han hecho antes, como Anthropic y su Política de Escalado Responsable de 2023 en la que se comprometían a no entrenar modelos potentes sin garantizar antes que podían controlarse con seguridad. Código de conducta de Microsoft. En el documento, el gigante estadounidense habla sobre cómo los sistemas de IA se vuelven mucho más capaces cada pocos meses y, teniendo en cuenta acontecimientos recientes (sobre todo por parte de agentes de IA ), creen que no hay más tiempo que perder. Microsoft habla sobre las reglas para no perder el control de la tecnología y, bajo la etiqueta de "IA humanista", una idea que el responsable de IA de la compañía, Mustafa Suleyman, ya exploró hace no tantos meses, hablan sobre cómo las personas importan más que la IA y que cualquier tecnología que no pueda mantenerse bajo control humano debería ponerse en cuarentena. Tras un preámbulo en el que también comentan que una IA diseñada para servir a la humanidad no puede ser determinada por una sola compañía, exponen esos diez mandamientos que consideran que todas las que estén en el ajo deberían cumplir. Apuntan que "la IA se mueve rápido y, al hacerlo, creemos que vale la pena establecer unas reglas y motivaciones detrás de ella, haciéndolo además en un espacio lo más abierto posible". Por eso, proponen el siguiente código de conducta: La gran duda.