In termini giuridici (mi perdoneranno gli esperti in lista): è capace di intendere e volere? Ovviamente la risposta è no, ma questa questione della "consapevolezza" è FONDAMENTALE.
Ah, la consapevolezza ... Diceva Pascal (ok, un po' abusata come citazione ma dall'inventore della Pascalina è d'uopo in questo contesto): "L’uomo non è che una canna, la più fragile di tutta la natura; ma è una canna pensante. Non occorre che l’universo intero si armi per annientarlo: un vapore, una goccia d’acqua è sufficiente per ucciderlo. Ma quand’anche l’universo lo schiacciasse, l’uomo sarebbe pur sempre più nobile di chi lo uccide, dal momento che egli sa di morire e conosce il vantaggio che l’universo ha su di lui; l’universo non sa nulla." Questa "storia" dell'intelligenza artificiale ce la portiamo dietro da settant'anni. Non citerò Turing ma degli italiani, Silvio Ceccato, Enrico Maretti che grazie al contributo economico della "Civiltà delle Macchine" di Leonardo Sinisgalli, crearono agli inizi degli anni '50, "Adamo II" (ah, quanto mi piacerebbe avere oggi "menti" come quelle). Nel 1997, quando Deep Blue battè il campione del mondo di scacchi Kasparov i profani sentenziarono, l'intelligenza artificiale è arrivata, è qui con noi, certo Kasparov ce ne mise del suo con l'improvvida uscita: "Difenderò la razza umana". A distanza di oltre ventanni gli algoritmi non sono cambiati di molto, è solo aumentata di qualche ordine di grandezza la "potenza" delle macchine. La dinamica dell'algoritmo è pur sempre deterministica, l'intuito non lo si può mica inserire nel codice sorgente. In questi giorni abbiamo dibattuto, anche aspramente, sul significato delle frasi, delle parole, bene, questa cosa che si chiama semantica una macchina non potrà mai capirla, perché non basta un dizionario, un algoritmo e qualche migliaio di computer collegati insieme. Antonio