Abre sus puertas 'De Copa en Copa', el culmen de las Fiestas de la Vendimia de Jerez 
Jerez brinda por su Vendimia: así se vive 'De Copa en Copa' en los Claustros 
Jerez y El Puerto protagonizan una etapa en la que sale a cuenta por cada segundo del 'crono': "Ha sido un día muy grande" 
Un paciente denuncia que lleva año y medio esperando tras una colonoscopia en el Hospital de Puerto Real y que no aparece en ClicSalud 
Los jueces aprovechan la apertura del Año Judicial y devuelven al Gobierno las críticas de 'lawfare' 
Anthropic, una empresa estadounidense de investigación y desarrollo de inteligencia artificial, asegura haber bloqueado cinco intentos de utilizar sus modelos de inteligencia artificial para investigaciones que podrían haber contribuido al desarrollo de armas biológicas, según un informe publicado este jueves por la compañía. La referida empresa detectó y frenó estos usos durante este año ante el riesgo de que sus sistemas pudieran facilitar investigaciones relacionadas con patógenos peligrosos, aunque no pudo determinar si los trabajos tenían fines legítimos o maliciosos.
La compañía explica que decidió bloquear los casos identificados después de evaluar el posible riesgo asociado al uso de sus modelos. El informe señala que las herramientas de inteligencia artificial pueden ofrecer capacidades útiles para la investigación biológica, pero también podrían ser empleadas en actividades con consecuencias peligrosas. Anthropic sostiene que, ante esa posibilidad, optó por impedir los usos detectados.
La empresa matiza, no obstante, que las evaluaciones realizadas sobre las capacidades de sus modelos no permiten concluir que esos sistemas vayan a utilizarse realmente para fabricar armas biológicas. "Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explicó Anthropic en el documento.
Hasta el momento, la compañía californiana también niega tener constancia de que alguna empresa privada haya compartido públicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas". La afirmación se produce mientras aumenta la preocupación dentro del sector tecnológico por el denominado uso dual de la inteligencia artificial, especialmente en aquellos modelos capaces de prestar asistencia en investigaciones relacionadas con la biología.
La advertencia de un investigador tras abandonar la empresa
El informe llega después de que la renuncia de Jacob Coxon, investigador británico de inteligencia artificial, provocara repercusión en redes sociales. Coxon dejó su puesto en Anthropic mientras expresaba sus preocupaciones sobre la evolución de esta tecnología y sobre la velocidad con la que las empresas están desarrollando sistemas cada vez más avanzados.
El investigador sostuvo que las compañías del sector están compitiendo por crear "tecnologías sobrehumanas" que, a su juicio, podrían llegar a representar un riesgo para los seres humanos. En el texto que compartió a través de X, Coxon afirmó: "Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década".
Las advertencias de Coxon y el nuevo informe de Anthropic coinciden en un momento de creciente preocupación por la capacidad de los modelos de inteligencia artificial para intervenir en ámbitos especialmente sensibles. La posibilidad de que estas herramientas puedan ayudar tanto en investigaciones legítimas como en actividades peligrosas ha llevado a las empresas del sector a reforzar los mecanismos destinados a detectar y bloquear usos considerados de riesgo.
Anthropic, una empresa estadounidense de investigación y desarrollo de inteligencia artificial, asegura haber bloqueado cinco intentos de utilizar sus modelos de inteligencia artificial para investigaciones que podrían haber contribuido al desarrollo de armas biológicas, según un informe publicado este jueves por la compañía. La referida empresa detectó y frenó estos usos durante este año ante el riesgo de que sus sistemas pudieran facilitar investigaciones relacionadas con patógenos peligrosos, aunque no pudo determinar si los trabajos tenían fines legítimos o maliciosos.
La compañía explica que decidió bloquear los casos identificados después de evaluar el posible riesgo asociado al uso de sus modelos. El informe señala que las herramientas de inteligencia artificial pueden ofrecer capacidades útiles para la investigación biológica, pero también podrían ser empleadas en actividades con consecuencias peligrosas. Anthropic sostiene que, ante esa posibilidad, optó por impedir los usos detectados.
La empresa matiza, no obstante, que las evaluaciones realizadas sobre las capacidades de sus modelos no permiten concluir que esos sistemas vayan a utilizarse realmente para fabricar armas biológicas. "Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explicó Anthropic en el documento.
Hasta el momento, la compañía californiana también niega tener constancia de que alguna empresa privada haya compartido públicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas". La afirmación se produce mientras aumenta la preocupación dentro del sector tecnológico por el denominado uso dual de la inteligencia artificial, especialmente en aquellos modelos capaces de prestar asistencia en investigaciones relacionadas con la biología.
La advertencia de un investigador tras abandonar la empresa
El informe llega después de que la renuncia de Jacob Coxon, investigador británico de inteligencia artificial, provocara repercusión en redes sociales. Coxon dejó su puesto en Anthropic mientras expresaba sus preocupaciones sobre la evolución de esta tecnología y sobre la velocidad con la que las empresas están desarrollando sistemas cada vez más avanzados.
El investigador sostuvo que las compañías del sector están compitiendo por crear "tecnologías sobrehumanas" que, a su juicio, podrían llegar a representar un riesgo para los seres humanos. En el texto que compartió a través de X, Coxon afirmó: "Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década".
Las advertencias de Coxon y el nuevo informe de Anthropic coinciden en un momento de creciente preocupación por la capacidad de los modelos de inteligencia artificial para intervenir en ámbitos especialmente sensibles. La posibilidad de que estas herramientas puedan ayudar tanto en investigaciones legítimas como en actividades peligrosas ha llevado a las empresas del sector a reforzar los mecanismos destinados a detectar y bloquear usos considerados de riesgo.
COMENTARIOS