The rush to roll out AI has exposed organisations to fresh attacks, which have never been easier to conduct. It’s much worse today than in the 1990s, because hacking is a major global industry backed by nation-states. “China’s domestic cyber-pipeline dwarfs that of the US,” the Atlantic Council warned in June, and is “already heavily integrated with artificial intelligence (AI) institutions”. Last week, Anthropic acknowledged that its Claude bot had been weaponised to facilitate “large-scale theft”. Claude was used to make “both tactical and strategic decisions, such as deciding which data to exfiltrate, and how to craft psychologically targeted extortion demands,” the BBC reported. Several aspects of generative AI make it dramatically worse than anything organisations have had to face before. For all the fatuous talk of so-called guardrails, a large language model (LLM) is vulnerable to manipulation to an extraordinary degree. It can be coaxed or tricked to ignore any of its own training and instructions and yield a company’s most closely guarded secrets.
La prisa por implementar la IA ha expuesto a las organizaciones a nuevos ataques, que nunca han sido más fáciles de realizar. Es mucho peor hoy que en la década de 1990, porque la piratería es una importante industria global respaldada por los estados nacionales. "El ciberdinámico doméstico de China eclipsa el de los Estados Unidos", advirtió el Consejo del Atlántico en junio, y "ya está muy integrado con las instituciones de inteligencia artificial (IA)". La semana pasada, Anthrope reconoció que su Bot Claude había sido armado para facilitar el "robo a gran escala". Claude se usó para tomar "decisiones tácticas y estratégicas, como decidir qué datos exfiltrarse y cómo elaborar demandas de extorsión dirigidas psicológicamente", informó la BBC. Varios aspectos de la IA generativa lo hacen dramáticamente peor que cualquier cosa que las organizaciones hayan tenido que enfrentar antes. A pesar de toda la charla fatosa de las llamadas barandillas, un modelo de lenguaje grande (LLM) es vulnerable a la manipulación en un grado extraordinario. Puede ser persuadido o engañado para ignorar cualquiera de sus propias capacitación e instrucciones y producir los secretos más guardados de una empresa.
Assicurati di rispettare le regole della scrittura e la lingua dei testi che tradurrai. Una delle cose importanti che gli utenti dovrebbero tenere a mente quando si utilizza il sistema di dizionario ingleseitaliano.com è che le parole e i testi utilizzati durante la traduzione sono memorizzati nel database e condivisi con altri utenti nel contenuto del sito web. Per questo motivo, ti chiediamo di prestare attenzione a questo argomento nel processo di traduzione. Se non vuoi che le tue traduzioni siano pubblicate nei contenuti del sito web, ti preghiamo di contattare →"Contatto" via email. Non appena i testi pertinenti saranno rimossi dal contenuto del sito web.
I fornitori di terze parti, tra cui Google, utilizzano cookie per pubblicare annunci in base alle precedenti visite di un utente al tuo o ad altri siti web. L'utilizzo dei cookie per la pubblicità consente a Google e ai suoi partner di pubblicare annunci per i tuoi utenti in base alla loro visita ai tuoi siti e/o ad altri siti Internet. Gli utenti possono scegliere di disattivare la pubblicità personalizzata, visitando la pagina Impostazioni annunci. In alternativa, puoi offrire agli utenti la possibilità di disattivare l'uso di cookie da parte di fornitori di terze parti per la pubblicità personalizzata, visitando la pagina www.aboutads.info.