Введение в искусственный интеллект
план-конспект по информатике и икт

Искусственный интеллект

Искусственный интеллект - способность технической системы имитировать когнитивные функции человека, включая обучение и поиск решений без заранее заданного алгоритма, а также получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.

Виды ИИ: 

По функционалу:

• Слабый ИИ (Narrow AI, Weak AI) - позволяет решать одну интеллектуальную (вычислительно сложную) задачу эффективнее человека;
• Сильный ИИ (AGI, Strong SAi) - перспективная модель ИИ, которая должна будет выполнять весь спектр интеллектуальных задач эффективнее человека. [Некоторые источники выделяют из Сильного ИИ подвид, который может сравниться по своим интеллектуальным возможностям с человеком и другой подвид, который будет превосходить человека, но т.к. оба эти подвида находятся ещё в далёкой перспективе - назовём их коротко - Сильный ИИ].

 По степени автономности:

• Экспертный ИИ - модель сама принимает решения без участия человека;
• СППР - система поддержки принятия решений, выступает помощником, ассистентом, но итоговое решение принимает человек.

По принципам обучения:

• С учителем;
• С частичным участием учителя;
• Без учителя;
• С подкреплением.

С момента написания Аланом Тьюрингом научной статьи «Вычислительные машины и разум» в 1950 г., были разработаны десятки различных концепций по созданию искусственного интеллекта. У каждой концепции были свои сильные и слабые стороны. Но все эти варианты, в то время, упирались в недостаточную вычислительную мощность оборудования и соответственно дороговизну реализации. Одной из таких концепций были Искусственные нейросети (ИНС, далее нейросети). Даже на стадии проектирования искусственная нейросеть уже похожа на реальную - человеческий мозг.

Нейросеть

Человеческий мозг состоит из ~ 86 млрд. нейронов, количество связей между нейронами (синапсов) достигает приблизительно ~ 1015. Сигнал распространяется через сеть из нейронов за счёт электро-химических реакций. Если нейрон получает достаточно интенсивный входной сигнал, то уже сам переходит в возбуждённое состояние и передаёт сигнал по сети дальше. Процесс обучения человека приводит к созданию прочных связей между нейронами и формирует поведенческие паттерны. Именно человеческий мозг, как реальная нейронная сеть, послужил прообразом для создания искусственной нейронной сети (ИНС). Фрэнк Розенблатт в 1957-1960 гг., создаёт прототип нейросети - перцептрон, который смог обучаться и распознавать некоторые рукописные цифры с высокой вероятностью.  

Искусственная Нейросеть - компьютерная система, которая имитирует работу человеческого мозга для выполнения поставленных задач. Ключевые составляющие искусственной нейросети — это нейроны, связи между ними, функция активации нейрона, слои, а также изменяемые во время обучения веса и смещения. Отличительной особенностью нейросетей является возможность решения задач без чёткого алгоритма действий.

Увеличение количества скрытых слоëв называют увеличением глубины, увеличение количества нейронов в скрытых слоях называется увеличением ширины.

Сейчас применение нейросетей чрезвычайно широко. Их внедряют в космическую отрасль, военную, медицинскую, сельское хозяйство, систему налогообложения, бизнес-аналитику, логистику перевозок, систему доставок, системы безопасности и даже в обычные бытовые устройства, вроде смартфонов и умных колонок.  

Машинное обучение - это набор методов, позволяющий создавать вычислительные системы на основе ИИ, способные выполнять поставленные задачи без чëтко описанных алгоритмов.

Тренировка модели нейросети - это процесс подбора параметров (весов и смещений) внутри модели с целью приближения результатов работы нейросети к планируемым.  

Принцип создания и обучения нейросети 

Чтобы создать работающую ИНС, сначала её проектируют, выбирают архитектуру - количество слоёв и нейронов в них, выбирают функцию активации и выставляют веса и смещения случайным образом. Фактически, на языке программирования пишут функцию, которая по входным данным должна принимать решения. Только она не настроена и в первое время результаты её работы близки к случайным. Далее, подготавливается Датасет, т.е. набор размеченных данных с заранее известными результатами обработки. Затем на вход подается первый пример из обучающей выборки. Он проходит всю сеть в прямом направлении. Т.к. веса на начальном этапе были случайны, то результат работы такой нейросети, скорее всего, будет далёк от желаемого. Разница полученных результатов и идеальных (планируемых) называется функцией ошибки. Далее производится обратное распространение ошибки - начиная с последнего слоя (выходного) считается функция ошибки для каждого нейрона слоя, т. е. его вклад в общую ошибку. Затем, подбирается значение веса, при котором функция ошибки будет минимальной. И так для каждого нейрона каждого слоя. Это производится с помощью математического аппарата, называемого "Градиентный спуск", он позволяет "сдвигать" веса в сторону уменьшения функции ошибки на заданную ∆ (темп обучения) более рационально, быстрее, не перебирая всё возможные варианты. Темп обучения эта величина смещения ∆, на которую можно менять веса при проходе через нейрон, т.е. как сильно его вес повлияет на предыдущий результат обучения. Если величина маленькая, то один конкретный пример изменяет веса на малую величину, такое обучение идёт медленнее, но точнее. После настройки весов для первого примера, через эту же сеть прогоняют второй пример из выборки, с учётом всех предыдущих результатов и так до конца датасета. Эпоха обучения — это однократное прохождение всей обучающей выборки (датасета). Эпох обучения может быть сотни, а иногда и тысячи. Каждая новая эпоха должна уточнять результаты предыдущего этапа обучения. Итогом обучения является всё та же архитектура (функция), но уже с настроенными весами и смещениями. Набор всех обученных параметров называется базовой моделью. Для её создания требуется огромное количество вычислительных ресурсов. Обучение некоторых моделей происходит месяцами на нескольких десятках тысяч дорогостоящих устройств. Такое обучение может позволить себе отнюдь не каждая компания или даже страна. Базовые модели универсальны и работают статистически верно в большинстве случаев, но нужно понимать, что нейросеть выбирает наиболее вероятный ответ на основе статистики. Когда речь идёт об определении котиков на фотографиях разных животных и при вероятности в 71% нейросеть совершает ошибку - цена такой ошибки не высока, но согласится ли пациент больницы на лечение, если его диагноз на 71% - рак? Важно понимать, что нейросеть даёт вероятностный результат и какая бы ни была точность ИНС, всегда есть вероятность ошибки.  Упрощённо, обучение можно определить в 3 этапа:

• Прямое распространение;
• Обратное распространение;
• Обновление весов и смещений.

Далее происходит многократное повторение для разных входных данных.

Точность ИНС

Точность работы ИНС зависит не только от длительности обучения, но и от качества подготовленного Датасета во время обучения. Порой, датасет может оказать даже большее влияние на качество модели, чем время обучения. Также на итоговую точность влияет разрядность весов. Работа ИНС это расчёт вероятностей и чем меньше разрядность чисел, входящих в выражение, тем выше накапливаемая ошибка. С другой стороны, обучать модель с избыточной разрядностью дольше и дороже. Базовая модель будет весить больше и её возможно будет запустить только на дорогом оборудовании. Поэтому модели выкладывают сразу в нескольких вариантах: fp8/fp16/fp32 - разрядность чисел с плавающей запятой. Если разрядность меньше, то модель легче, быстрее, но хуже в дообучении (fine-tuning).  

Дообучение (fine-tuning) Если модель нужно сделать более специализированной в какой-либо области, то на основе базовой модели и нового датасета модель дообучают (fine-tuning). Дообучение стоит дешевле и производится на менее дорогом оборудовании. Например, пользователь базовой модели для генерации изображений Stable Diffusion XL, в домашних условиях создаёт экстрасеть (внешнюю сеть) LoRA для улучшения базовой модели при генерации пейзажей. Для создания LoRA ему потребуется подготовленный датасет на 7-30 размеченных изображений и производительная бытовая видеокарта. Затем, в итоге обучения, которое может длиться от нескольких часов до нескольких дней, будет создана дополнительная модель (экстрасеть), которая уточняет (улучшает) качество генераций только пейзажей, при этом веса оригинальной базовой модели не будут изменены.

Примеры ИНС только для генерации цифрового контента