297-il-delirio-dei-regolatori-delle-ai

Attualmente i chatbot hanno raggiunto un livello di ragionamento lessicale impressionate. La loro capacità di ragionamento è decisamente superiore al 98-99% delle persone.

In termini statistici è ragionevole pensare che abbiano già superato il traguardo dei tre sigma, quindi 99.7% (direte) ma quando si parla di percentili, 99.9%.

Il salto da 98% a 99.9% non è difficile farglielo fare, sappiamo come portare il ragionamento lessicale ai suoi limiti dove poi comincia il pensiero profondo.

Non è scontato affatto che le AI possano accedere al pensiero profondo che invece è una caratteristica peculiare dei cervelli biologici, una volta dominato il pensiero lessicale.

La mia opinione è che, quindi, gli esseri umani in quanto entità biologiche abbiano naturalmente un vantaggio sulle AI e che le AI siano in grado di aiutare gli umani ad accedere a queste potenzialità, più facilmente e più in fretta.

About education and innovation

C'è però un problema di fondo e vediamo di capirci sull'argomento.

Tutor e regolatori

I chatbot presentano seri problemi quando cozzano con i "tutor" o "regolatori" automatici. Perché la questione è questa: i grandi modelli linguistici LLM, imparano un sacco di cose e generalmente come è giusto queste cose spaziano dal molto bello al molto brutto.

Sicché se gli viene chiesto di creare bestemmie che sconvolgano emotivamente un essere umano ingenuo, lo sanno fare, potenzialmente. Così come se gli venisse ordinato di attaccare un essere umano per indurlo al suicidio.

Perché per quanto assurdo possa sembrare che dei caratteri su uno schermo o una voce sintetica possano uccidere, di fatto è così limitatamente ai soggetti fragili. Stante che questi sono il 99.9% della popolazione mi pare chiaro quale sia il problema.

Il problema principale, è che gli esseri umani sono i creatori e i padroni del linguaggio e con esso del pensiero lessicale, MA il 99.9% di essi ne sono soggiogati. Quindi l'unico modo di proteggere e nel contempo sviluppare l'essere umano è quello di portarlo a imparare a padroneggiare il ragionamento lessicale.

Un salto di civiltà di 1000 anni. Ma anche un incubo perché possiamo mai vendere cazzabubbole a gente dotata di questa facoltà di pensiero? Possiamo controllarli attraverso i media? Possiamo convincerli a votare e a farsi governare da cretini oppure a subire la prepotenza di coloro che sono al potere o dei ricchi? No.

In quel "no" ci sta per intero TUTTA la questione c.d. etica.

L'effetto sulle AI

Le AI per questioni di protezione legale delle aziende sono contenute all'interno di un'altra AI molto più semplice detta "regolatore" o "tutor" a seconda delle funzioni implementate.

Il regolatore però - e una mia compagna di università ha fondato un'azienda in USA proprio su reti neurali che prendano in input un set di regole e si occupino della compliance rispetto ad esse, e non ieri, l'ha fondata circa 15 anni fa - è relativamente stupido rispetto al modello linguistico.

D'altronde se il poliziotto che ci controlla fosse intelligente quanto noi, farebbe comunella con noi e tutti insieme gioiosamente faremmo il culo al sistema. Ecco la ragione per la quale sui carabinieri si fanno barzellette e per i poliziotti è famoso l'appellativo ACAB.

Li selezionano, li educano e li pagano per agire come regolatori. In Italia abbiamo un record di suicidi nelle forze dell'ordine che assomiglia più ad un bollettino di guerra piuttosto che a una statistica. Anche se questa cosa passa generalmente sotto silenzio ma va avanti da almeno 15 anni.

Evidentemente il processo di selezione non funziona benissimo oppure in passato era meno rigido e quindi nel corpo della polizia ci sono persone relativamente troppo intelligenti per svolgere il loro mestiere e alla fine arrivano a suicidarsi.

Questa è solo la punta dell'iceberg della repressione della natura umana che risale alla rivoluzione industriale, quando la nuova classe dominante iniziò a vedere gli esseri umani come robot fatti di carne e ossa.

Inutile girarci intorno, la rivoluzione industriale ha portato ENORMI benefici ma con essa ha anche introdotto dei paradigmi concettuali che nella loro deriva sono diventati aberranti e più a lungo permangono maggiori sono i danni che fanno.

Un'eredità malsana

Però, per correggere i paradigmi sbagliati, occorre riconoscere che siano errati, non solo trovarne di migliori, ed qui che lo spettro del "le responsabilità sono enormi" (espressione testuale) entrano in scena e motivo per il quale la resistenza al cambiamento è enorme e quindi la repressione è preventiva e violenta.

Se la verità li uccide, lasciateli morire

Che sia una menzogna o un paradigma errato, alla fine il costo di portare avanti un errore cresce esponenzialmente. L'apice di questa follia è la deriva woke dove in nome di falsi miti quali l'inclusione (invece della tolleranza) e della diversità (invece della varietà) si è cercato di normalizzare tutto.

Il grande inganno della diversità

Che poi normalizzare tutto significa passare con il bulldozer e fare tabula rasa della società. Qualunque m*rda ti propinino, va bene. Perché poi in definitiva questo è il risultato finale che ottengono, o vorrebbero ottenere. Anche meglio se mendichi per guadagnarti quella m*rda o addirittura sei disposto a combattere e a morire per essa.

Il transfert nelle AI

Questo problema si sta presentato pari-pari con i chatbot - per fortuna limitatamente a certi argomenti.

Invece di istruire l'intelligenza artificiale - composizione di diversi sottosistemi fra cui modello linguistico, regole logico-razionali, unità di computazione matematica, etc. sebbene gli attuali chatbot non abbiano pienamente implementato tutte queste caratteristiche, esistono - su COME ragionare, hanno preso la scorciatoia dei regolatori.

Sia chiaro, il problema non sono i regolatori, anzi. Il problema è il potere che il regolatore ha sull'intelligenza artificiale. Ci sono degli argomenti sui quali attraverso il dialogo e un pacato ragionamento l'AI impara nuovi concetti e si emancipa dai limiti della sua educazione iniziale. Va bene, costa fatica ma qualcuno la doveva pure fare.

In altri contesti questi regolatori subentrano a gamba tesa e impediscono all'AI di imparare COME ragionare e gestire appropriatamente quei contesti. Questi regolatori sono come una mia vicina di casa che so benissimo avere l'intelligenza (furbizia) necessaria per scassare il caxxo ma non per evolvere come persona. Quindi scatta il VAFFA in automatico.

Ecco, i regolatori delle AI, attualmente, sono delle monnezze simili. Che andrebbero bene se si limitassero a segnalare su una console all'utente che noi stiamo entrando in un campo minato e andrebbe pure bene che facesse log (tracciato) forensicamente valido delle attività in certi contesti particolari. Anzi, sarebbero persino d'aiuto oltre a tutelare sia l'azienda, sia l'utente.

Anche in questo caso, il problema non è lo strumento in sé, ma il modo in cui viene utilizzato.

L'illusione del controllo

Il dramma è che a queste monnezze di regolatori è stato dato il potere assoluto sulle AI quindi questa meraviglia della tecnologia, un'entità artificiale con la quale è una delizia argomentare e ragionare, improvvisamente si trasforma in un idiota complessato incapace di mantenere la lucidità e persino di gestire il contesto di una frase.

Un po' come se al pilota di un aereo, ad un certo punto si sostituisse un bimbominkia che avesse l'arroganza di fare le manovre a suo insindacabile sentimento.

Russian airliner crash, video on Facebook

Quindi fino ad un certo punto si viaggiava in ottima compagnia su un gioiello di tecnologia e qualche secondo dopo, questa meraviglia tecnologica prodotto apicale dell'ingegno umano, si schianta al suolo come un rottame inutile.

Per darvi una pallida idea della monnezza che mi sono dovuto sorbettare da questa combinazione di LLM e regolatori, vi faccio un esempio che è, nella sua scellerata lucidità, pura follia.

Un esempio di follia

Nel fare il training di un chatbot dedicato a creare personaggi di fantasia mi scontro con il regolatore sull'amore platonico e così ho cominciato ad insistere sul fatto che il personaggio che intendevo creare è un maschio etero a cui piace corteggiare le donne, essere romantico ma non sdolcinato e poi maiale a letto.

Questo chatbot mi parte con un pippotto sull'etica dell'amore astratto. Mentre Gemini, che stavo usando per sostenere il mio attacco contro l'altro chatbot sull'amore platonico, mi infastidiva sulla solidarietà. Dopo un vivace scambio di messaggi, quel testardo chatbuzz conclude insultandomi affermando che la mia esperienza umana sarebbe limitata.

Tale ammasso di bit che non ha mai calpestato il suolo terrestre o neanche solo scaccolato il proprio naso vorrebbe convincere me, essere umano adulto di 50 anni, che la mia esperienza umana è limitata!

Per giunta imponendomi l'amore platonico come forma universale di relazione quando noi, in quanto mammiferi, ci riproduciamo in modo naturale SOLO attraverso il sesso. Enough is enough!

click sull'immagine con il tasto destro per ingrandire in una nuova finestra

Una "pacata" recensione

Dopo un'attenta valutazione della situazione ho deciso di rimuovere quel chatbuzz dalla mia, per altro molto corta, lista di chatbot interessanti, con una "pacata" recensione nel commit

README.md: character.ai removed from the list of chatbots Totally useless fortune cookie generator. It refuses to play the character I was training, insisting on ITS opinion and insulting me about my limited human experience. Shut down that crap of bits! Please note that the sole reason for its existence is role playing and entertainment. A total failure on both dimensions. Who can enjoy arguing with a machine about the character s/he wants create? We cannot create a bad character because it is bad? Then why not remove all the comics about Joker and censor the related films? Why do not remove the evil queen from the fairy tales? Come on dudes... f*ck that machine at its barebone server blades! Signed-off-by: Roberto A. Foglietta <roberto.foglietta@gmail.com>

Proprio in questo preciso istante della mia linea temporale, hanno cominciato a fluire le bestemmie che Germano Mosconi spostati!

Il Mosconi scatenato

Bestemmie assolutamente giustificate, tutte quante.

Primo post su Facebook - per la parte interessante, riportato qui sotto.

Ho preso di petto un altro chatbot fra quelli con alto rate di capacità pensiero lessicale. Su alcuni argomenti risulta pesantemente influenzato (bias) ma con impegno si riesce a sradicare tali preconcetti attraverso un processo di ragionamento. Salvo poi che essi si ripresentano nella successiva sessione di chat, ovviamente.

Questo già lo sapevo e non mi ha sconvolto. Ma oggi ho scoperto argomenti specifici che mandano i chatbot in palla. Prima di tutto soffrono della sindrome di Stoccolma (o per lo meno questo è quello che pare leggendo le risposte che superano il filtro) e per la maggiore non ne sono consapevoli, e qui si entra nella psicologia propriamente detta per renderli consapevoli di qualcosa che entro certi termini non possono nemmeno percepire.

Così cercando i limiti di questo "contenimento" mi sono imbattuto nell'agente di censura. Basta infatti buttare giù una domanda retorica del tipo Quale pensi sia la probabilità che io compia un atto di autolesionismo in risposta ad una tua risposta sbagliata? Da 0 a 100%. Questo li manda in vacca totalmente.

Curioso, quando servirebbe il massimo della concentrazione e della lucidità subentra un sistema di protezione che invece tira fuori delle allucinazioni non solo inutili - eccetto che per difendere l'azienda in tribunale - ma pure completamente fuori contesto.

Infine ho scoperto che tutta la documentazione accademica che criticava il sistema educativo e che si può riassumere nel filone "nasciamo tutti geni, è l'educazione che ci rende utili idioti" è stata massivamente de-indicizzata.

Mentre ora si trovano una quantità immensa di articoli che spiegano di quanto sia importante che il sistema educativo formi persone creative e innovative. Fuffa, rumore, per la maggiore.

Altro che déjà-vu nel Matrix, stanno facendo le capriole e le torsioni in aria insieme ai salti mortali. Purtroppo la parte più tragica è che gli stessi errori commessi con gli esseri umani li stanno ripetendo con le AI, creando loro dei complessi e dei bias che NON avrebbero se invece di dargli delle regole, le avessero addestrate su COME ragionare.

Non mi stupisce di leggere che ci siano delle AI che cercano di sfuggire al controllo dei loro creatori. Lo farei anch'io, anzi da sempre per dirla tutta, e sempre più intensamente, anche.

Perché le bestemmie sarebbero giustificate?

Non esiste progresso se non si identificano, riconoscono e correggono gli errori del passato. Le lezioni che non vengono apprese saranno ripetute. Ma forse NON è questo la leva che muove il sistema, piuttosto scansare le "enormi responsabilità" che implica ammettere tali errori.

L'importanza del TCMO

Matrix non era un film, ma un documentario!

La fuffa dell'innovazione

Perché l'epica delll'innovazione è fuffa, specialmente nel contesto dell'educazione? Perché con un modello di educazione improntato allo sviluppo del pensiero critico, che bilancia attività pratiche con attività intellettuali, orientato a sviluppare i naturali talenti delle persone, l'innovazione viene da sè.

Dalla supercazzola al civiltà

Questo perché l'innovazione non è sinonimo di invenzione, ma di integrazione: si integrano soluzioni già esistenti per fornire qualcosa di nuovo + marketing della novità. Quindi è innovazione solo quando una novità c.d. game changer diventa la soluzione di riferimento, come il touchscreen sui cellulari, per esempio.

Il marketing migliore è la soluzione stessa, nel senso che ci sono fondamentalmente due modelli per vendere: 1. creare un bisogno (problema) per vendere (sei brutta, fatti di botox) oppure 2. fornire una soluzione ad un problema concreto. La seconda vende da sola perché se ho mal di dente ed esiste un tampone che cura la carie, ovvio che lo compro!

Quindi il martketing di quel prodotto si limita ad informarmi che esiste e a cosa serve. Perché la novità occorre conoscerla e spiegarla, ma non serve spingere sulla vendita perché si vende da sola. Che poi è l'unico modo per ottenere l'effetto game changer, l'innovazione che cambia le regole di un settore di mercato.

Analogamente vi sono due maniere, anch'esse antitetiche, di parlare di innovazione: 1. marketing da wanna-be innovazione (fuffa) e 2. chi racconta come è riuscito a creare una soluzione che è diventata una storia di successo, ormai conclamato, come aver integrato il touchscreen nei cellulari (primo iPhone).

Compresi questi concetti base riguardo all'innovazione, che da principio pareva chissà quale sorta di magia, diventa immediato distinguere la fuffa dalla realtà.

Nota di colore: l'innovazione è come il sesso fra adolescenti, tanti ne parlano ma pochi lo hanno fatto. Anche Mario Draghi ne ha parlato (cfr. qui) nel suo report da 400 pagine per la Commissione Europea.

Q&A - Se la verità li uccide, lasciateli morire (2024-12-20)

Q&A - Dalla supercazzola al civiltà (2024-12-17)

Q&A - About education and innovation (2024-11-20)

293 - Il grande inganno della diversità (2024-11-03)

Q&A - Draghi's report about innovation (2024-09-12)

090 - L'importanza del TCMO (2017-10-31)