Мы интуитивно считаем, что все, что происходит внутри нашего мозга, — это естественный интеллект, а то, что происходит в микрочипах, — искусственный. Но так ли это на самом деле? Ведь, как известно, человеческий разум имеет коллективную природу. Все наше мышление, начиная с раннего детства, формируется обществом. Все наши мысли, даже если они и порождены нашим мозгом, были в своих предпосылках заложены в нас другими людьми в процессе коллективной мыследеятельности. Любой наш мыслительный акт происходит в явном или незримом диалоге с другими людьми, с оглядкой на их будущую оценку наших решений.
Но ведь то же самое будет происходить и в будущей искусственной психике робота — те же сомнения в оценке его действий окружающими, те же привитые воспитанием ценности, лежащие в основе принятия решений его искусственной психикой. Люди не способны заложить в роботов ничего другого, кроме собственных ценностей! Так что если уж и говорить о порабощении, то речь идет скорее о несовершенствах нашего нынешнего общества: излишнем доминировании элит в разделе общественного пирога, силовом подавлении индивидуальных свобод и других пережитках прошлых эпох. ИИ выступает лишь в качестве еще одного инструмента для существующих в обществе институтов — системы правил, убеждений, норм и организаций [4].
Если индустриальная экономика была основана на массовом производстве типовых продуктов и услуг, то цифровая позволит организовать массовое производство кастомизированных товаров и услуг
Мы стоим на грани перемены, сравнимой с возникновением на Земле человека.
ВЕРНОР ВИНДЖ
Может быть, высокоразвитая цивилизация — это вовсе не огромная энергия, а наилучшее регулирование?
СТАНИСЛАВ ЛЕ