⚡Не политический пост
Часть 3. Формула капитуляции от Илона Маска
🚀Совсем недавно, в конце марта нынешнего года, известный американский предприниматель в сфере высоких технологий Илон Маск опубликовал открытое письмо с призывом к научному сообществу остановить развитие и обучение наиболее "мощных" искусственных интеллектов, вроде ChatGPT после 4-го поколения.
✍Под письмом подписались, как говорят, более 1000 экспертов. По мнению профессионалов, множество людей потеряют работу, а толковые чат-боты уже заполоняют наше информационное пространство своей "пропагандой".
🗣«Должны ли мы позволять машинам наводнять наши информационные каналы пропагандой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — вопрошают авторы обращения.
🆘То есть по сути целый сонм экспертов как бы оформляют в тексте обращения... формулу капитуляции человечества перед искусственным интеллектом. Что бы это значило?
Этот вопрос я хотел бы рассмотреть, как минимум, с двух точек зрения.
☝Первая точка зрения — та, которую я провожу сквозь все это сочинение. И начну в этом вопросе с начала. Основой разума является язык. Язык, если вдуматься, значит гораздо больше, чем просто набор правил грамматики и синтаксиса; больше, чем просто слова и предложения, которые на нем формулируются. Есть немало высказываний крупных ученых и философов, которые признавали значение языка. Они все так или иначе говорили о том, что язык человека определяет границы его мышления и, как следствие, его собственного — внутреннего, а затем и внешнего мира.
👉"Язык человека определяет то, о чем он мог бы подумать", — говорил американский лингвист Бенджамин Ли Уорф. С ним трудно не согласится!
Особое значение для языка имеет понятие метафоры. То есть, говоря буквально, слова или выражения в переносном значении. Много это или мало? Берусь утверждать, что это очень много значит. Действительно, сам язык есть средство выражения для человека окружающей его действительности. То есть человек дает имена вещам, вводя и определяя понятия — осуществляя перенос слов на окружающий мир... наполняя действительность смыслом, который выражается в словах.
📐Естественно, в таком контексте метафора имеет ключевое значение для научного прогресса, поскольку вся наука имеет дело с моделями окружающих нас явлений, то есть снова осуществляет смысловые переносы моделей на действительность и обратно. Это язык науки, и другого быть не может.
Не зря же сейчас говорят, что основные открытия делаются на стыках наук. То есть активно используется синтез (сборка), а не только привычный для науки анализ (разборка).
❗Но ведь метафора — это не произвольный перенос слов из одной области в другую. Не всякий перенос имеет смысл, и тут все никак не сводится к применению ассоциативных рядов слов. Должен быть какой-то решающий центр, который будет осмысливать эти переносы, а возможно и задавать их вектор. А этот процесс, процесс мышления, как мы знаем на собственном опыте, — это не просто перебор вариантов ассоциирования одного с другим. Там, у нас в голове, все делается не в пример сложнее — и это факт! Взять хотя бы принцип образности мышления, из которого вытекает свойство образности языка...
🤖Как же такую задачу решать ИИ? Нет, я понимаю, что можно как-то сформулировать для него способ перебора слов, подходящих для обозначения некоторой предметной области. Но тут возникает сразу несколько проблем.
Во-первых, каждая новая система слов означает свои системы смыслов, а значит и свои критерии... Подчас очень разные! А мы знаем из прошлых рассуждений, что у нейросети критерии линейны, а значит описывать любые резкие смысловые скачки они по определению не могут.
👁Да, ИИ может с помощью ассоциативного поиска находить некие любопытные связи — навроде криминалистики: мол, этот связан с этим и часто упоминается в контексте того-то, а значит, возможна транзитивная (переносная) связь. По известной логической формуле: если из А следует Б, а из Б следует В, то из А следует В.
Но сможет ли нейросеть оценить достоверность обнаруженных связей? Ведь примитивные количественные формы анализа тут не работают (или далеко не всегда работают). Мне видится, что все мысли авторов-фантастов, согласно которым нейросеть выдает вероятность таких связи в достоверных процентах — не имеют под собой никаких серьезных оснований. У ИИ нет инструментов для проверки связей, потому как нет подходящих универсальных критериев.
🚧В общем, язык является пока непреодолимым барьером для ИИ... Но что же получается, Илон Маск со товарищи просто дурят нам голову? "Берут на понт", так сказать? Или занимаются глупым алармизмом, пытаясь... голым задом остановить паровоз технического прогресса?
Об этом поговорим далее, поскольку этот разговор очень быстро выведет нас именно на ту тему, на которой я и остановился в прошлый раз.
Продолжение следует.
#IT #цифровые_технологии #ИИ #Искусственный_интеллект #Язык #Илон_Маск
