Inteligența artificială prietenoasă (Friendly AI, FAI - ing. Friendly Artificial Intelligence, Friendly AI, FAI ) - conceptul de filozofie AI , un tip ipotetic de inteligență artificială care nu are un impact negativ asupra civilizației umane . Multe concepte de ISD includ afirmația că nu numai că nu va dăuna umanității, dar va oferi și sprijin material și informațional oamenilor, până la satisfacerea deplină a dorințelor și nevoilor fiecărei persoane în parte. „Prietenos” în acest context este un termen tehnic, ceea ce nu înseamnă că IA va simți neapărat afecțiune și apropiere față de umanitate .
Promovarea IA prietenoasă este unul dintre obiectivele principale ale Institutului Singularity pentru Inteligență Artificială , precum și obținerea de finanțare pentru acest proiect și, în cele din urmă, crearea unei „ IA semințe ” al cărei sistem de motivare va avea inițial o preocupare pentru umanitate încorporată în el. Mai mulți futuriști de seamă s-au exprimat în sprijinul Friendly AI, inclusiv scriitorul și inventatorul Ray Kurzweil , specialistul în extinderea vieții Aubrey de Gray și co-fondatorul World Transhumanist Association Nick Bostrom .
Pe 11 decembrie 2015, Elon Musk , Sam Altman și alții au fondat compania OpenAI , care își propune să promoveze crearea de IA deschisă.
Cel mai notabil critic al teoriei Friendly AI este Bill Hibbard , autorul cărții Superintelligent Machines, care consideră teoria incompletă. Hibbard scrie că crearea AI necesită mai multe discuții politice despre crearea AI și moralitatea AI. El crede, de asemenea, că prima IA poate fi creată doar de corporații private puternice (pe care Yudkowsky le consideră false), iar aceste corporații multinaționale nu vor avea niciun stimulent să implementeze prietenia. Criticând orientările SIAI pentru AI, el a propus o arhitectură a obiectivelor AI în care fericirea umană este definită prin comportamentul uman care exprimă fericirea, în special expresia unui zâmbet pe față. Yudkowsky a răspuns la această critică spunând că o astfel de funcție de utilitate ar fi mai probabil să fie satisfăcută dacă întregul sistem solar ar fi umplut cu manechine microscopice zâmbitoare decât datorită fericirii reale a oamenilor [1] .