La nuova frontiera dell’Intelligenza Artificiale è l’AI generativa, la quale sta rivoluzionando il mondo.
Il funzionamento di questa tecnologia si basa su algoritmi complessi che imparano a riconoscere e replicare schemi di dati esistenti per generare informazioni ex novo, offrendo quindi nuove opportunità per creare i contenuti più vari (testi, immagini, musica…).
Queste tecnologie, tuttavia, determinano l’emergere di questioni etiche e di sicurezza che non possono essere ignorate. In questo articolo esploreremo come funziona l’AI Generativa, i rischi (soprattutto etici) del suo utilizzo e lo sviluppo di un’intelligenza artificiale senziente.
AI Generativa: la tecnologia che sta rivoluzionando l’Intelligenza Artificiale
Il costante sviluppo dell’Intelligenza Artificiale è sempre più rapido ed annovera tra le più recenti ed innovative declinazioni di questa tecnologia l’IA generativa, in grado di produrre output sempre nuovi ed originali. È chiaro che mentre la tecnologia in questione offre numerose e nuove possibilità, non si possono trascurare le problematiche e i rischi che comporta: per poter apprezzare appieno sia i benefici sia i potenziali svantaggi dell’intelligenza artificiale generativa, bisogna innanzitutto comprenderne il funzionamento.
L’intelligenza Artificiale generativa rappresenta una frontiera avanzata nell’ambito dei sistemi di IA. Questi sistemi, utilizzando complessi modelli di machine learning e deep learning, emulano la creatività umana. Questo viene realizzato attraverso l’elaborazione e l’analisi di enormi volumi di dati, che possono includere immagini, suoni, e testi. I modelli imparano a riconoscere schemi, stili, e strutture all’interno di questi dati, cosa che consente loro di creare nuovi contenuti che possono essere percepiti come originali o creativi.
Il processo di apprendimento di queste IA è iterativo e progressivo: all’inizio, i modelli possono generare risultati rudimentali, ma con il tempo e l’aggiunta di nuovi dati, migliorano la loro capacità di produzione. Per esempio, nelle reti neurali profonde, come le reti generative avversarie (GANs), due reti neurali lavorano in tandem: una rete genera nuovi dati mentre l’altra valuta la loro qualità, in un ciclo continuo di feedback che affina la capacità della rete generativa di produrre risultati sempre più convincenti e raffinati.
Questa continua evoluzione ha permesso all’IA generativa di eccellere in numerosi campi. Nel settore legale, ad esempio, può essere utilizzata per generare bozze di documenti legali o per analizzare grandi volumi di giurisprudenza e legislazione per assistere nella ricerca legale. Nel campo della musica, può comporre brani inediti o facilitare il processo creativo proponendo variazioni e armonizzazioni. Nell’arte, è capace di creare opere visive che imitano lo stile di artisti famosi o di sviluppare nuovi stili artistici.
La sofisticatezza dei risultati è direttamente collegata alla qualità e varietà dei dati inseriti nel sistema; più ampi e diversificati sono i dataset, più l’IA sarà capace di „intuire“ e replicare le sottili sfumature che caratterizzano la creatività umana.
Intelligenza Artificiale Generativa: quali sono i rischi?
La disponibilità di uno strumento in grado di creare contenuti sempre più sofisticati solleva questioni etiche, come il rispetto dei diritti d’autore e la possibilità di creare contenuti ingannevoli o falsi con grande realismo, problemi che richiedono un’attenta considerazione e regolamentazione; prima fra tutte quella riguardante la proprietà intellettuale.
I profili da considerare con riferimento all’opere prodotte da un sistema di Intelligenza Artificiale generativo sono principalmente due: la sua originalità e la sua paternità. In prima battuta, infatti, è imperativo stabilire se l’output fornito dal sistema si effettivamente originale, o se al contrario possa in qualche modo costituire una violazione del diritto d’autore di un altro soggetto. Il dataset di allenamento del sistema di IA, infatti, è composto da una libreria di opere prodotte da altri autori, dalle quali vengono estrapolate le informazioni necessarie allo sviluppo dell’abilità creativa del sistema finalizzata alla produzione del contenuto di volta in volta richiesto.
Il secondo interrogativo sollevato dai contenuti prodotti dell’IA generativa riguarda la loro paternità, ossia l’individuazione del soggetto titolare dei diritti di proprietà intellettuale connessi a tali opere. Le normative attualmente in vigore adottano una prospettiva antropocentrica, non considerando, com’è evidente, la possibilità di un autore non umano.
Di particolare rilevanza sono altresì le questioni legate alla protezione dei dati personali che gli utenti forniscono all’IA più o meno consapevolmente. Il provvedimento adottato dal Garante per la Protezione dei Dati Personali nei confronti di ChatGPT nell’aprile 2023 e la contestazione di violazione dei dati personali da ultimo notificata a Open AI, fornisce una dimostrazione di come il trattamento dei dati da parte di tali tecnologie possa avvenire in violazione di quanto previsto della normativa europea sulla tutela dei dati personali.
GPT e Intelligenza Artificiale Senziente: il futuro della AI
GPT-3, insieme a tecnologie all’avanguardia come Bard e il più recente Gemini, segna un progresso significativo verso l’obiettivo a lungo termine di sviluppare un’intelligenza artificiale che si avvicini al concetto di senzienza. Queste piattaforme avanzano notevolmente le possibilità dell’IA nel campo del machine learning, consentendo la creazione di testi, immagini e suoni con un grado di precisione sempre più affinato.
L’obiettivo di un’IA senziente è quello di facilitare un’interazione che sia il più naturale e indistinguibile possibile da quella umana, sia in termini di comprensione che di risposta emotiva e cognitiva. Nonostante questi progressi, il percorso verso un’IA che possa emulare completamente il cervello umano nelle sue funzioni più sofisticate e nelle sue capacità di interazione rimane complesso e irto di sfide tecniche ed etiche.
La capacità di queste tecnologie di creare contenuti altamente realistici e persuasivi, come nel caso dei deepfake, introduce rischi di manipolazione dell’informazione che possono influenzare l’opinione pubblica e alterare la percezione della realtà. Queste rappresentazioni false o ingannevoli possono essere impiegate per innumerevoli scopi maligni, tra cui la diffusione di notizie false con l’intento di ingannare o causare disinformazione, campagne di diffamazione mirate a danneggiare individui attraverso la creazione di contenuti compromettenti che sembrano autentici, o violazioni della privacy mediante la produzione di materiali che invadono la sfera personale senza consenso.
Benché al momento attuale non esistano sistemi di IA che possano essere definiti senzienti nel senso pieno del termine, il progresso tecnologico potrebbe portare a sistemi che esibiscono comportamenti sempre più simili a quelli dell’intelligenza umana o animale, sollevando interrogativi inediti sull’autonomia, la consapevolezza e la moralità delle macchine.
In questo contesto, è essenziale non solo sviluppare tecnologie responsabili e sicure, ma anche istituire quadri legali e normativi che regolino l’uso e la distribuzione dei contenuti generati dall’IA. Si richiede un’attenta valutazione delle responsabilità legali in caso di abuso di queste tecnologie, nonché l’implementazione di meccanismi di rilevamento e verifica dei contenuti per prevenire la diffusione di materiale dannoso. Inoltre, è fondamentale educare il pubblico sulle capacità e i limiti della IA generativa, al fine di promuovere una comprensione critica che possa contribuire a mitigare gli impatti negativi di queste potenti tecnologie sulla società.
La risposta delle istituzioni
Di fronte ai nuovi scenari posti dall’evoluzione tecnologica è ormai imperativo che le istituzioni collaborino al fine di individuare nuove soluzioni regolamentari.
A tal proposito, diverse sono le misure intraprese dall’Unione Europea nel tentativo di dare risposta alle esigenze poste dalla tecnologia che ormai sta diventando parte integrante della nostra quotidianità e orientarne lo sviluppo nel rispetto dei principi su cui si regge l’Unione.
Il nuovo regolamento in tema di Intelligenza Artificiale (il c.d. AI Act), proposto dall’Unione Europea, rappresenta un momento storico per la regolamentazione dell’intelligenza artificiale ed il primo tentativo di stabilire un equilibrio tra lo sviluppo e l’implementazione dell’AI, da un lato, e le necessità di tutela della privacy, dei diritti umani e della sicurezza, dall’altro lato. Al momento, l’AI Act ha superato una serie di negoziati intensi ed è stato approvato da tutti i 27 Stati Membri dell’UE; si attende solamente l’approvazione ufficiale del Parlamento Europeo, prevista per aprile 2024, che sembra essere una mera formalità. Questo regolamento è fondamentale per definire le responsabilità degli sviluppatori e degli utilizzatori di AI, e include anche sanzioni significative per la non conformità, che possono arrivare fino al 7% del fatturato annuale globale delle aziende.
Su un piano complementare, poi, potrà operare anche la Direttiva proposta dalla Commissione Europea in tema di responsabilità civile extracontrattuale per i sistemi di Intelligenza Artificiale, anch’essa in attesa di approvazione.
In un’era di cambiamenti rapidi e talvolta incontrollati, l’Unione Europea si posiziona quindi come un faro guida, dimostrando il suo impegno non solo a livello normativo, ma anche come promotrice di un dialogo costruttivo tra progresso tecnologico e protezione dei diritti umani, puntando a un equilibrio sostenibile che possa fungere da modello a livello globale.
The New Frontier of Artificial Intelligence is generative AI, which is revolutionizing the world. The functioning of this technology is based on complex algorithms that learn to recognize and replicate existing data patterns to generate entirely new information, offering new opportunities to create diverse content (texts, images, music,…).
However, these technologies raise ethical and security issues that cannot be ignored. In this article, we will explore how generative AI works, the risks (especially ethical ones) of its use, and the development of sentient artificial intelligence.
Generative AI: The Technology Revolutionizing Artificial Intelligence
The rapid development of Artificial Intelligence is increasingly incorporating generative AI, capable of producing always new and original outputs. While this technology offers numerous new possibilities, the associated issues and risks cannot be overlooked. To fully appreciate both the benefits and potential drawbacks of generative artificial intelligence, it is necessary to understand how it operates.
Generative Artificial Intelligence represents an advanced frontier in AI systems. These systems, using complex machine learning and deep learning models, emulate human creativity. This is achieved through processing and analyzing vast volumes of data, including images, sounds, and texts. The models learn to recognize patterns, styles, and structures within this data, allowing them to create new content that can be perceived as original or creative.
The learning process of these AIs is iterative and progressive: initially, the models may generate rudimentary results, but over time and with the addition of new data, they improve their production capabilities. For example, in deep neural networks like Generative Adversarial Networks (GANs), two neural networks work in tandem: one generates new data, while the other evaluates their quality, in a continuous feedback loop refining the generative network’s ability to produce increasingly convincing and refined results.
This ongoing evolution has allowed generative AI to excel in various fields. In the legal sector, for example, it can be used to generate drafts of legal documents or analyze extensive volumes of case law and legislation to assist in legal research. In the music field, it can compose original pieces or facilitate the creative process by suggesting variations and harmonizations. In art, it can create visual works imitating the style of famous artists or develop new artistic styles.
The sophistication of the results is directly linked to the quality and variety of the data entered into the system. The broader and more diversified the datasets, the more capable the AI will be to „understand“ and replicate the subtle nuances that characterize human creativity.
Generative Artificial Intelligence: What are the Risks?
The availability of a tool capable of creating increasingly sophisticated content raises ethical issues, such as respecting copyright and the possibility of creating deceptive or false content with great realism. These issues require careful consideration and regulation, particularly concerning intellectual property.
The aspects to consider regarding the works produced by a generative AI system are primarily their originality and authorship. It is imperative to establish whether the output provided by the system is genuinely original or, on the contrary, could somehow violate another party’s copyright. The training dataset of the AI system is composed of a library of works produced by other authors, from which the necessary information for the development of the creative ability of the system is extracted.
The second question raised by the contents produced by generative AI concerns their authorship, i.e., identifying the subject holding the intellectual property rights connected to such works. Current regulations adopt an anthropocentric perspective, not considering the possibility of a non-human author.
Issues related to the protection of personal data that users provide to AI, more or less consciously, are also of particular relevance. The measure adopted by the Italian Data Protection Authority against ChatGPT in April 2023 and the notification of personal data breach recently sent to OpenAI demonstrate how the data processing by such technologies can violate European data protection regulations.
GPT and Sentient Artificial Intelligence: The Future of AI
GPT-3, along with cutting-edge technologies like Bard and the latest Gemini, marks significant progress toward the long-term goal of developing artificial intelligence that approaches the concept of sentience. These platforms significantly advance the possibilities of AI in machine learning, enabling the creation of texts, images, and sounds with an increasingly refined level of precision.
The goal of sentient AI is to facilitate interaction that is as natural and indistinguishable from human interaction as possible, both in terms of understanding and emotional-cognitive response. Despite these advances, the path to AI that can completely emulate the human brain in its most sophisticated functions and interaction capabilities remains complex and fraught with technical and ethical challenges.
The ability of these technologies to create highly realistic and persuasive content, as seen in deepfakes, introduces risks of information manipulation that can influence public opinion and alter the perception of reality. These false or misleading representations can be used for various malicious purposes, including spreading false news with the intention of deceiving or causing misinformation, targeted defamation campaigns to harm individuals through the creation of compromising content that appears authentic, or privacy violations by producing materials that invade personal space without consent.
While there are currently no AI systems that can be defined as fully sentient in the true sense of the term, technological progress could lead to systems exhibiting behaviors increasingly similar to those of human or animal intelligence, raising unprecedented questions about the autonomy, awareness, and morality of machines.
In this context, it is essential not only to develop responsible and secure technologies but also to establish legal and regulatory frameworks regulating the use and distribution of content generated by AI. A careful assessment of legal responsibilities in case of misuse of these technologies is required, as well as the implementation of content detection and verification mechanisms to prevent the spread of harmful material. Furthermore, it is crucial to educate the public about the capabilities and limitations of generative AI, aiming to promote critical understanding that can help mitigate the negative impacts of these powerful technologies on society.
Institutional Responses
Faced with the new scenarios posed by technological evolution, it is now imperative for institutions to collaborate in identifying new regulatory solutions.
In this regard, the European Union has taken several measures to respond to the needs posed by technology, which is now becoming an integral part of our daily lives, and to guide its development in accordance with the principles underpinning the Union.
The new regulation on Artificial Intelligence (the so-called AI Act) proposed by the European Union represents a historic moment for the regulation of artificial intelligence and the first attempt to strike a balance between the development and implementation of AI on the one hand, and the need to protect privacy, human rights, and security on the other. At present, the AI Act has overcome a series of intense negotiations and has been approved by all 27 EU Member States; only the official approval of the European Parliament is awaited, scheduled for April 2024, which seems to be a mere formality. This regulation is essential to define the responsibilities of AI developers and users and also includes significant sanctions for non-compliance, which can go up to 7% of the company’s annual global turnover.
On a complementary level, the Directive proposed by the European Commission on extra-contractual civil liability for Artificial Intelligence systems will also be able to operate, awaiting approval.
In an era of rapid and sometimes uncontrollable changes, the European Union positions itself as a guiding light, demonstrating its commitment not only at the regulatory level but also as a promoter of constructive dialogue between technological progress and the protection of human rights, aiming for a sustainable balance that can serve as a model globally.
