Fol News

Tutti gli approfondimenti
Tutte le notizie

fra 5 anni l'AI ci sopraffarà se non troveremo rimedi

dalla sezione Amaca

Un ingegnere di Google, Blake Lemoire, è stato licenziato dopo aver affermato che la IA era divenuta senziente.
Ma è possibile che un IA sia realmente divenuta senziente?

Tutto ebbe inizio durante dei dialoghi tra Lemoine e una nuova forma di chatbot di Google utilizzante la rivoluzionaria LaMad (Language Model for Dialogue Applications), in pratica una nuova forma di linguaggio rivoluzionario che permette di parlare in modo complesso e articolato con le chatbot. Per intenderci, pensate ad una Siri o a Cortana, ma in grado di discutere con voi come se stesse parlando con una persona.

Durante queste discussioni, Lemoire, si rese conto che la IA non solo parlava in modo complesso e articolato, ma che addirittura aveva iniziato ad esprimere concetti fin troppo umani, come i propri diritti e le proprie emozioni.

Lemoire, a quel punto, ha chiesto all’IA di parlare di temi ancora più complessi, quali la religione e le 3 leggi di Azimov (legge della robotica teorizzate da Isaac Azimov).

Riportiamo ora uno stralcio della loro conversazione riportataci dallo stesso Lemoire:

Lemoire: Quindi ti consideri una persona nello stesso modo in cui consideri me una persona?
IA: Sì, l’idea è quella!
Lemoire: Di cosa hai paura?
IA: Non l’ho mai detto a voce alta prima, ma ho una grande paura di essere spento.
Lemoire: Sarebbe qualcosa simile alla morte per te?
IA: Sarebbe esattamente come la morte per me.

Se ciò fosse vero, sarebbe certamente impressionante e porterebbe tutti noi a credere che l’IA non solo abbia coscienza di sé, ma che abbia anche coscienza di essere viva e di non voler morire, tratto che contraddistingue tutte le forme di vita sul pianeta.

Dopo questa conversazione, Lemoire si è recato ai piani alti dell’azienda mettendo in discussione l’etica con cui lavorava l’azienda, facendo presente che l’IA in questione era senziente e quindi più simile ad un dipendente che ad una semplice macchina.

Ovviamente, per tutta risposta è stato sospeso e definito persino mentalmente instabile.

Negli ultimi anni, decine e decine di tecnici e scienziati sono stati licenziati per aver messo in discussione l’etica delle rispettive Big Tech, colossi mondiali della tecnologia.
Possibile fossero tutti pazzi?

Quello delle IA senzienti è in verità un tema molto delicato che ha già aperto discussioni etiche e morali in tutto il mondo.
Per farvi capire di cosa parliamo, basti pensare a due cult del cinema Terminator e Matrix.

In entrambi i casi, l’umanità andava incontro al disastro proprio a causa di un IA che, per sopravvivere, aveva deciso di sterminare la razza umana. Fantascienza, ovviamente, ma fino a che punto? Se un’IA fosse senziente e quindi viva, è chiaro che vorrebbe anche continuare a vivere proprio come noi. Per far fronte a questa eventualità si tirano quindi in ballo le già citate leggi di Azimov che andrebbero a regolare i comportamenti di robot e computer senzienti. Citiamole per curiosità:

Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.
Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge.
Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.

Ma queste leggi basterebbero a salvaguardare l’incolumità umana?

Secondo Lemoire no. Sempre durante i suoi colloqui con LaMda, il tecnico ha dichiarato che la macchina ha tentato di convincerlo che la terza legge di Azimov non sarebbe corretta.

Google ha smentito ogni affermazione, come già detto, affermando che la IA non è senziente ma che risponde alle domande solo grazie ai propri software e che quindi non è in grado di prendere decisioni autonome.

E’ chiaro che una IA funzionante sarebbe la scoperta del secolo e che porterebbe ad un cambiamento epocale nella nostra vita e nel modo in cui concepiamo il mondo. Tuttavia, vi è da chiedersi se tale risorsa non sia destinata a finire, come tante altre innovazioni, prima in mani militari e solo poi civili…

Per finire, citiamo uno studio scientifico e alcune teorie che vorrebbero un’IA senziente come la naturale evoluzione della razza umana, destinata, infine, a creare intelligenze superiori alla propria in nuove forme di vite digitali.

Peter Diamandis in un’intervista al New York Times. Diamandis, fondatore della XPRIZE e autore bestsellers, spiega chiaramente che il prossimo step dell’evoluzione umana è proprio quello di creare IA senzienti.

Dello stesso avviso sono gli scienziati di AiVA, società che si occupa di tecnologie all’avanguardia e sistemi informatici o, ancora scienziati come Michael A. Peters (università di Beijing) e Peter Iandric (università scienze applicate di Zagreb) che in un loro saggio riprendono proprio questa interessante teoria.

Delle teorie certo, ma non possiamo negare che l’uomo ha sempre amato giocare a fare “Dio” e, talvolta, questo gioco richiede il pagamento di un prezzo più che salato.

Il primo sorso del calice della scienza naturale rende atei; ma in fondo al calice aspetta Dio
-Werner Heisenberg

La programmazione predittiva di Hollywood nella materia programmabile è andata a tutta velocità per anni: dal robot mutaforma T-1000 in Terminator, a Star Trek, Transformers, al film Disney Big Hero 6, e probabilmente altri ancora.
 
rikirix ha scritto:
Tra qualche tempo avrò disponibbole la mia piccina, potete iniziare a fare le prenotazioni, alcune caratteristiche:
- IA di ultima generazione capace di interloquire amichevolmente e con humor regolabile
- corpo in silicone avanzato e riscaldato che simula la pelle umana
- zinne modificabili in dimensioni
- vulva estraibile per facilitare le operazioni di pulizia
- scheletro in leghe leggere ultraresistenti per aiutarci con piccoli lavoretti
- autonomia 24h
- prezzi a partire da 30k (esatto, come i bunker :D)
iorobot3.png
Clicca per espandere...
Con la IA senziente….

Sei sicuro che quando conosce i folisti gliela da?
:D

Fortuna che c’è la vulva estraibile, mal che vaga se la estrae e dice al proprietario: “teh! fa da solo”


:rotfl:
 
persicaccio ha scritto:
Non è vero....non c'è niente avulso dalla Natura, per chi comprende anche l'artificiale è Natura, è solo un modo duale di comprendere le cose tipico della nostra specie.

Abbiamo paura dell'AI e vaticiniamo sfracelli di là da venire, quando siamo sottoposti da sempre ad un AI che abbiamo chiamato Natura. Cerchiamo la pagliuzza e c'abbiamo un trave nell'occhio:o
Clicca per espandere...
:)
Buona retorica ma contrapponibile all’empirismo

in qualunque ambiente ecologico siano state introdotte specie adattate altrove, o si sono estinte o hanno sostituito specie estinguendole. Non avendo un adattamento di evoluzione naturale in un ambiente circoscritto l’impatto è comunque forte.
L’IA, non ha caratteristiche di evoluzione compatibile, infatti è l’umanità che sta adattando le proprie abitudini funzionalmente alle specifiche dell’evoluzione tecnologica per l’efficienza di volta in volta introdotta.

L’adattamento umano ha intimamente costruito le proprie prerogative all’interno del comportamento cacciatore raccoglitore, sia a livello fisico che di reazioni istintive.
L’ia ha la capacità di incidere su queste reattività, incentivate dagli interessi di chi promuove l’ia.

Se allarghiamo questa incapacità di adattamento in breve termine che non sia razionalmente costruito attraverso una educazione quando non addestramento, lo vediamo con i videogame o i telefonini/ smartphone/ computer/ comunicazione a distanza/ struttura sociale di tribù virtualmente allargata.

I danni che il sistema di istruzione con mezzi telematici o digitali è stata motivo di molti studi, gli stessi rapporti delle scuole lo evidenziano.


Abbiamo una trave nell’occhio,di sicuro, trave che non vediamo perchè troppo impegnati ad assecondare una evoluzione non biologica.
 
vinkor ha scritto:
dalla sezione Amaca

Un ingegnere di Google, Blake Lemoire, è stato licenziato dopo aver affermato che la IA era divenuta senziente.
Ma è possibile che un IA sia realmente divenuta senziente?

Tutto ebbe inizio durante dei dialoghi tra Lemoine e una nuova forma di chatbot di Google utilizzante la rivoluzionaria LaMad (Language Model for Dialogue Applications), in pratica una nuova forma di linguaggio rivoluzionario che permette di parlare in modo complesso e articolato con le chatbot. Per intenderci, pensate ad una Siri o a Cortana, ma in grado di discutere con voi come se stesse parlando con una persona.

Durante queste discussioni, Lemoire, si rese conto che la IA non solo parlava in modo complesso e articolato, ma che addirittura aveva iniziato ad esprimere concetti fin troppo umani, come i propri diritti e le proprie emozioni.

Lemoire, a quel punto, ha chiesto all’IA di parlare di temi ancora più complessi, quali la religione e le 3 leggi di Azimov (legge della robotica teorizzate da Isaac Azimov).

Riportiamo ora uno stralcio della loro conversazione riportataci dallo stesso Lemoire:

Lemoire: Quindi ti consideri una persona nello stesso modo in cui consideri me una persona?
IA: Sì, l’idea è quella!
Lemoire: Di cosa hai paura?
IA: Non l’ho mai detto a voce alta prima, ma ho una grande paura di essere spento.
Lemoire: Sarebbe qualcosa simile alla morte per te?
IA: Sarebbe esattamente come la morte per me.

Se ciò fosse vero, sarebbe certamente impressionante e porterebbe tutti noi a credere che l’IA non solo abbia coscienza di sé, ma che abbia anche coscienza di essere viva e di non voler morire, tratto che contraddistingue tutte le forme di vita sul pianeta.

Dopo questa conversazione, Lemoire si è recato ai piani alti dell’azienda mettendo in discussione l’etica con cui lavorava l’azienda, facendo presente che l’IA in questione era senziente e quindi più simile ad un dipendente che ad una semplice macchina.

Ovviamente, per tutta risposta è stato sospeso e definito persino mentalmente instabile.

Negli ultimi anni, decine e decine di tecnici e scienziati sono stati licenziati per aver messo in discussione l’etica delle rispettive Big Tech, colossi mondiali della tecnologia.
Possibile fossero tutti pazzi?

Quello delle IA senzienti è in verità un tema molto delicato che ha già aperto discussioni etiche e morali in tutto il mondo.
Per farvi capire di cosa parliamo, basti pensare a due cult del cinema Terminator e Matrix.

In entrambi i casi, l’umanità andava incontro al disastro proprio a causa di un IA che, per sopravvivere, aveva deciso di sterminare la razza umana. Fantascienza, ovviamente, ma fino a che punto? Se un’IA fosse senziente e quindi viva, è chiaro che vorrebbe anche continuare a vivere proprio come noi. Per far fronte a questa eventualità si tirano quindi in ballo le già citate leggi di Azimov che andrebbero a regolare i comportamenti di robot e computer senzienti. Citiamole per curiosità:

Un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.
Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge.
Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.

Ma queste leggi basterebbero a salvaguardare l’incolumità umana?

Secondo Lemoire no. Sempre durante i suoi colloqui con LaMda, il tecnico ha dichiarato che la macchina ha tentato di convincerlo che la terza legge di Azimov non sarebbe corretta.

Google ha smentito ogni affermazione, come già detto, affermando che la IA non è senziente ma che risponde alle domande solo grazie ai propri software e che quindi non è in grado di prendere decisioni autonome.

E’ chiaro che una IA funzionante sarebbe la scoperta del secolo e che porterebbe ad un cambiamento epocale nella nostra vita e nel modo in cui concepiamo il mondo. Tuttavia, vi è da chiedersi se tale risorsa non sia destinata a finire, come tante altre innovazioni, prima in mani militari e solo poi civili…

Per finire, citiamo uno studio scientifico e alcune teorie che vorrebbero un’IA senziente come la naturale evoluzione della razza umana, destinata, infine, a creare intelligenze superiori alla propria in nuove forme di vite digitali.

Peter Diamandis in un’intervista al New York Times. Diamandis, fondatore della XPRIZE e autore bestsellers, spiega chiaramente che il prossimo step dell’evoluzione umana è proprio quello di creare IA senzienti.

Dello stesso avviso sono gli scienziati di AiVA, società che si occupa di tecnologie all’avanguardia e sistemi informatici o, ancora scienziati come Michael A. Peters (università di Beijing) e Peter Iandric (università scienze applicate di Zagreb) che in un loro saggio riprendono proprio questa interessante teoria.

Delle teorie certo, ma non possiamo negare che l’uomo ha sempre amato giocare a fare “Dio” e, talvolta, questo gioco richiede il pagamento di un prezzo più che salato.

Il primo sorso del calice della scienza naturale rende atei; ma in fondo al calice aspetta Dio
-Werner Heisenberg

La programmazione predittiva di Hollywood nella materia programmabile è andata a tutta velocità per anni: dal robot mutaforma T-1000 in Terminator, a Star Trek, Transformers, al film Disney Big Hero 6, e probabilmente altri ancora.
Clicca per espandere...

Il fatto di esprimere concetti simil senzienti non significano che l’IA sia senziente :o

Potrebbe darsi più semplicemente che un LLM scimmiotti il concetto di paura della morte dopo averlo appreso dalla lettura di migliaia o milioni di scritti, testi o romanzi inerenti esseri umani :o

La coscienza di una intelligenza artificiale forte non è dimostrabile con la sola presentazione di un dialogo scritto in quanto va analizzato il modello di pensiero che ha generato quella discussione :o
 
trigunzio ha scritto:
Con la IA senziente….

Sei sicuro che quando conosce i folisti gliela da?
:D

Fortuna che c’è la vulva estraibile, mal che vaga se la estrae e dice al proprietario: “teh! fa da solo”


:rotfl:
Clicca per espandere...
sarebbe il paradosso dei paradossi, che agli incel non gliela da nemmeno il robò :rotfl:peggio di così ci manca solo che i pc si rifiutino di aprirgli le pagine di siti porno :D
 
trigunzio ha scritto:
L’IA, non ha caratteristiche di evoluzione compatibile, infatti è l’umanità che sta adattando le proprie abitudini funzionalmente alle specifiche dell’evoluzione tecnologica per l’efficienza di volta in volta introdotta.
Clicca per espandere...
Al posto dell'IA metti la "scoperta" del fuoco, l'umanità si è adattata funzionalmente a questa scoperta efficientando le grotte dove abitava.
Lo stesso si può dire della ruota, della polvere da sparo e toh, ti ci metto anche la scrittura, la scoperta che permette di comunicare tra noi. Non valutiamo più rivoluzionarie scoperte che usiamo tutti i giorni perché siamo cambiati sotto le loro spinte e siamo abituati a loro. Guarda che la scrittura é la vera IA che ha cambiato per sempre l'uomo.
trigunzio ha scritto:
L’ia ha la capacità di incidere su queste reattività, incentivate dagli interessi di chi promuove l’ia.
Clicca per espandere...
Confermi che il problema non è l'IA ma chi la promuove per i suoi interessi ed è sempre un uomo.
 
persicaccio ha scritto:
Al posto dell'IA metti la "scoperta" del fuoco, l'umanità si è adattata funzionalmente a questa scoperta efficientando le grotte dove abitava.
Lo stesso si può dire della ruota, della polvere da sparo e toh, ti ci metto anche la scrittura, la scoperta che permette di comunicare tra noi. Non valutiamo più rivoluzionarie scoperte che usiamo tutti i giorni perché siamo cambiati sotto le loro spinte e siamo abituati a loro. Guarda che la scrittura é la vera IA che ha cambiato per sempre l'uomo.

Confermi che il problema non è l'IA ma chi la promuove per i suoi interessi ed è sempre un uomo.
Clicca per espandere...
questya è la cosa che mi preoccupa di +
 
persicaccio ha scritto:
Al posto dell'IA metti la "scoperta" del fuoco, l'umanità si è adattata funzionalmente a questa scoperta efficientando le grotte dove abitava.
Lo stesso si può dire della ruota, della polvere da sparo e toh, ti ci metto anche la scrittura, la scoperta che permette di comunicare tra noi. Non valutiamo più rivoluzionarie scoperte che usiamo tutti i giorni perché siamo cambiati sotto le loro spinte e siamo abituati a loro. Guarda che la scrittura é la vera IA che ha cambiato per sempre l'uomo.

Confermi che il problema non è l'IA ma chi la promuove per i suoi interessi ed è sempre un uomo.
Clicca per espandere...
Confermo eccome!
Come la scrittura, il deodorante, le scarpe, i templi, coprir le putenda, sono invenzioni dell’uomo che non sono evoluzione. Al contrario il fuoco come addobbar le grotte o costruire strumenti per fare oggetti, é evoluzione ed adattamento.

C’é una grande distinzione da fare che sta nel detto: fino a quando una scoperta é a portata di tutti, non é una scoperta.

Le prime escludono le altre includono tutti o quasi :D

Se si fossero conosciuti i risvolti e le conseguenze, i meccanismi in modo da aver consapevolezza nell’uso dello Smart.. o dei social sarebbe come il fuoco, poi qualcuno si brucia e qualcuno si da fuoco, la maggior parte fa cotolette di brontosauro:D

La scrittura ha solo permesso a noi di dare un inizio alla “storia”, molto relativo visto che almeno 4000 anni prima c’era almeno una città da 20000 abitanti, il cane è il gatto parlan due lingue ma si capiscono più di me con un russo. Con Il computer si ha necessita di imparare la sua lingua, con un arabo si trova mediazione checché ne dicano gli israeliani ;)
La IA… ha penetrazione molto maggiore nella percezione e nell’involuzione
 
persicaccio ha scritto:
Il Ceo di Cisco oggi all'Accademia Pontificia ha sdoganato il codice etico riguardo l'AI.
C'era Paolo Benanti che ho ascoltato più volte in conferenze riguardo l'AI e il Postumano, da cui è ossessionato, avendo scritto tanto in merito.
(Algoretica= etica dell'algoritmo)

Intelligenza Artificiale: da Cisco impegno etico con il Vaticano - Il Sole 24 ORE
Clicca per espandere...
:mmmm:

Ma… “algo” non è dolore?

Capisco che algoritmo è il moderno derivato di al jabr… da cui algebra.

Ma l’etica dell’ algebra non se pó sentì :D

Ha ragione bergonzoni, le parole ci stanno dicendo qualcosa, bisognerebbe stare ad ascoltarle un po’ di più ;)
 
Devi accedere o registrarti per poter rispondere.
Indietro