автоматическое обучение электронных систем распознавать сложные закономерности

Автоматическое обучение электронных систем распознавать сложные закономерности

Продолжаю публикацию материалов, посвященных алгоритмам, применяемым в робототехнике. В предыдущей статье я рассмотрел проблемы, которые могут встретиться при обработке различных данных, используемых роботами. Я также упомянул, что для решения этих проблем мы можем использовать алгоритмы машинного обучения либо инструменты вероятностного рассуждения. Сегодня речь пойдет о машинном обучении.

Задача регрессии

Используя регрессионный анализ мы можем найти зависимость одной переменной от другой путем «подгонки» имеющихся опытных данных некоторой функцией. Например, робот-футболист фиксирует положение мяча, через определенные моменты времени, то есть мы имеем некоторый дискретный набор значений. При этом, наши данные включают некоторую «шумовую» составляющую (этот шум может вносить наш датчик, например, видеокамера робота). И задачей является определить траекторию движения мяча и, зная ее, предсказать его положение в некоторый момент времени в будущем, на основе чего уже сформировать стратегию поведения робота.

Это задача решается методами обучения с учителем.

Задачи, которые мы пытаемся решить:

точки во времени X → f (X) → координаты мяча y

Выбор функции f (X) является достаточно сложной задачей, и вот почему. Если представить нашу функцию, которую называю целевой в виде полинома, то увеличивая степень этого полинома, мы сможем все лучше и лучше описать наши данные, полученные в прошлом. На картинке я показал пример подгонки точек данных линейной, квадратичной и кубическими функциями.

Пример подгонки данных полиномами различных степеней

Увеличивая степень полинома, в какой-то момент можно достичь того, что все наши данные попадут на кривую, описываемую функцией f (X).

Проблема переподгонки данных

В этом случае возникает две проблемы. Первая — мы получили сложную модель (функцию). Вторая — полученная модель плохо обобщает, то есть она очень хорошо описывает данные, полученные в прошлом, но при использовании ее в предсказании, она, как правило, дает достаточно большую ошибку. Это, так называемая, проблема «переподгонки данных» или «переобучения».

Очень часто при решении регрессионных задач применяется линейная регрессия, когда в качестве функции, которой мы пытаемся подогнать наши данные выступает обычная прямая (линейная функция).

Задача кластеризации

Следующая группа задач, которую позволяют решать алгоритмы машинного обучения — это задачи кластеризации.

Возможные варианты выделения кластеров в данных

Вариантов, как объединять имеющиеся данные может быть множество (см. рисунок выше).

Для решения этой задачи часто применяют алгоритм k-means (k-средних) и алгоритм для нахождения оценок максимального правдоподобия, или EM-алгоритм (Expectation M aximization algorithm).

Задача классификации

Задача классификации в машинном обучении

Эта задача, как и задача регрессии решается методами обучения с учителем, так как нам известны целевые значения (или результаты испытаний).

Для решения этой задачи часто примяются алгоритм под названием «Машины опорных векторов» (SVM — Support Vector Machines), а также анализ главных компонент (PCA — Principal Components Analysis)

Оценка результатов обучения

Для оценки алгоритмов:

В случае регрессии мы можем сравнивать модели, использующие различные базисные функции, в случае классификации это могут быть различные формы кривых, определяющих классы

В следующей публикации, посвященной алгоритмам, используемым в робототехнике я планирую рассказать про вероятностное рассуждение.

Еще по этой теме

6 комментариев к записи “Задачи машинного обучения — ищем закономерности и предсказываем будущее”

Не совсем понял переход от футбола к полиномам. И в чем тут задача обучения. Скажем если б я решал бы задачу игры в футбол для робота я бы мыслил так:

1. Футбольное поле это плоскость из однородного материала.

2. Мы находим мяч. И отлслеживаем его.

3. Оценив положение мяча в момент его обнаружения и скажем через секунду мы можем построить вектор движения мяча.

4. Оценив положение мяча еще через секунду мы можем предсказать какая скорость мяча будет в каждой точке его траектории.

Соотвественно нам остается построить вектор нашего движения зная скорость самого робота так чтобы он оказался на пути мяча.

Мне кажется именно для такой задачки самообучающийся алгоритм был бы не нужен. Он занимал бы слишком много времени. Друго дело когда играет команда. Тут можно применять алгоритмы обучения для реализации действий всей команды. Определения кто именно будет перехватывать мяч. И как противостоять команде соперника.

Вы исходите из предположения, что ВСЕГДА определяете ТОЧНОЕ местоположение мяча. Это не так. Ваш измеритель всегда имеет погрешность, поэтому вы реально определяете координату с некоторой ошибкой. После каждого измерения у вас будет истинное положение мяча + ошибка. Если отобразить считанные значения с вашего датчика, то у вас вместо гладкой кривой (траектории, по которой реально летит мяч) получится набор точек, разбросанный вблизи вашей траектории. Задачей является нахождение этой гладкой кривой (без погрешности, или еще эту погрешность можно рассматривать как некоторый шум). А уже зная функцию, описывающую эту гладкую кривую (в ней уже учтено направление и сила ветра, коэффициент сопротивления среды, ее неоднородность и прочий миллион параметров, которые могут быть нестационарными), вы и предсказываете координаты мяча в следующий момент времени. Здесь можно применять различные подходы. Можно использовать различные виды регрессии, можно использовать вероятностный Байесовский подход. В радиолокации для определения координат летящих целей уже больше чем полвека используются фильтр Калмана (с кучей разновидностей), частичный фильтр, которые являются примерами методов второго подхода.

Обобщу. Любое полученное значение с измерителя нужно рассматривать как истинное значение измеряемой величины + погрешность измерения. Задача — определить истинное значение (не зная того, где вы сейчас находитесь, вы не можете знать, где вы окажетесь). Этот же вероятностный подход используется во многих узлах различных беспилотных мобильных роботов. В общем, датчик — всегда ВРЕТ, а для прогноза нам нужна ИСТИНА, иначе прогноз будет брехливым.

С командой вы совершенно правы.

Не буду спорить. Я пока не дошел до этого момента в своем проекте. Я пока только с механикой закончил. Но если рассуждать чисто эмпирически скажем датчики дистанции на основе ультразвука или инфракрасного излучения выдают погрешность и периодически дают неверный результат, который отсеивается на основе предыдущих и последующих показаний. А если говорить про камеру то возникает вопрос, какая ошибка тут может возникнуть? У нас есть снимок. Нам с точностью до милисекунды известно в какой момент времени он был сделан. Нам точно известно сколько в настоящий момент прошло времени с момента снимка. И проанализировав положение мяча на снимке и сопоставив его с моделью поля как мне кажется мы без всяких ошибок можем сказать где он будет в следующий момент. Конечно это верно если поле находиться в закрытом помещении и тут нет влияния ветра и прочего.

И еще можете подробнее обьяснить процедуру подборки полинома? Скажем на примере приведенного вами графика. Тут же дело не только в степени полинома тут и вопрос с коффициентами.

Погрешность камеры дает ее матрица, скорость затвора и нестационарность условий съемки (угол преломления электромагнитной волны (света) меняется в зависимости от коэффициента преломления среды). Высокоскоростная камера с большой разрешающей способностью даст, конечно, небольшую погрешность и все методы направлены на увеличение точности и снижения неопределенности. Если у вас измеритель, который дает точность, достаточную для предсказания с высокой достоверностью, условия измерений стационарны и вам известен аналитический вид уравнения движения, то, конечно, городить огород из сложных методов смысла нет, просто измеряйте и, на основе измерений, по известным формулам, делайте расчет.

Алгоритмы машинного обучения имеют смысл только, когда вам не известны все значимые факторы, влияющие на конечный результат, вам не известен аналитический вид каких-то зависимостей, или ваши данные тоже имеют ошибки/погрешности. Если все точно и все известно, просто пишете программный код, в котором берутся входные данные, подставляются в известную формулу и получаете результат в котором можете быть уверены.

Вы еще один момент не учитываете. Камера установлена где? На роботе? Тогда, какова точность определения местоположения самой камеры? Если же у вас супер точный измеритель, который жестко закреплен и неподвижен, все влияющие на результат параметры стационарны, вам известна точная формула, в которую нужно просто подставить параметры, то на выходе вы получите то, что вам и нужно. Здесь не нужны никакие data mining, machine learning. Просто такая идилия бывает не всегда и не везде.

Полиномы подбираются перебором. Вам нужно найти функцию, которая аппроксимирует ваш набор данных наилучшим образом с точки зрения какого-нибудь критерия. Далее выбирается критерий оптимальности для вашей функции, который минимизируется (максимизируется). Например, метод наименьших квадратов (минимизация среднеквадратичной ошибки) или метод максимального правдоподобия. Далее, ищутся параметры (коэффициенты перед полиномиальными членами и степени полинома) для которых этот критерий выполняется. Здесь используются различные методы оптимизации (для выпуклых функций, например, это может быть метод градиентного спуска). Все эти методы зачастую требуют больших вычислительных возможностей, поэтому активно широко стали применяться буквально только-только (компьютеры стали мощными и дешевыми).

Я планирую подробно в дальнейшем на своем блоге рассматривать различные методы и алгоритмы, но все они сводятся в двух словах к следующему. У вас есть какой-то набор данных (вход) и есть какой-то желаемый результат (выход). Например, результаты каких-то достоверных экспериментов. Вы не знаете закон природы, по которому, имея входные данные, вы получаете выходные. Для вас этот закон природы — «черный ящик». Задача алгоритмов ML, DataMining соорудить для вас этот черный ящик. Компьютер пытается подобрать закономерность, которая из входа делает выход (и эта закономерность, помимо того, что отлично работает уже на известных вам парах вход-выход, но еще и формирует правильный выход для ранее вам неизвестного входа). Если устройство черного ящика вам хорошо известно (известен закон природы), то счастье у вас уже есть, вам больше ничего не нужно.

Причем тут скорость затвора? Зачем нам фотоаппарат? Насколько я понимаю у современной скажем веб-и камеры в момент работы затвор постоянно открыт. Соотвственно картинкаэто просто массив данных с пикселей матрицы на момент времени т1. Далее если у нас на роботе закреплено 2 камеры на известном расстоянии друг от друга мы получаем стереоскопическое зрение позволяющее простейшими математическими операциями вычислить дистанцию до любого объекта. А распознать мячик как круглый скажем красный объект задействовав например библиотеку OpenCV не состтавит труда,

Про затвор я, наверное, не совсем правильно выразился. Я имел ввиду число кадров в секунду. Если кадров мало, то у вас получается меньшее число точек данных и тем большую погрешность в вычислении скорости вы имеете.

Как и любое цифровое устройство, современные фото-видео камеры подвержены ошибкам «квантования по уровню». У вас есть ограниченное число линий по вертикали (например, 240). Если вы снимаете объект размером 2 метра, который занял весь кадр, то погрешность определения координаты Y каждой точки по снимку у вас составит как минимум 2000/240/2= 4.2 мм.

Матрица вашей камеры имеет ограниченное разрешение. Вот для примера. Представьте снимок футбольного поля сверху камерой, делающий снимок с разрешением 320×240 пикселей и 4000×3000 пикселей. В каком случае вы сможете точнее определить координату мяча? Microsoft Kineсt определяет координаты имея камеру с разрешением, скорее всего 320×240 пикселей (по-крайней мере первые модели), правда для опеределения глубины там имеется инфракрасный датчик. При этом удается получить точность определения координат порядка нескольких сантиметров при удалении от устройства до 7м. Для каких-то задач этой точности вполне достаточно, для каких-то нет.

Расположив две камеры на роботе, вы сможете с какой-то точностью определить расстояние до объекта ОТНОСИТЕЛЬНО робота, а точнее той его точки, в которой установлены камеры. А насколько точно вам известны абсолютные координаты робота в неподвижной системе координат, скажем относительно ворот?

Вы привели в качестве примера библиотеку ОpenCV, которая распознает образы. В ней очень широко используются алгоритмы машинного обучения: расстояние Махаланобиса, k-средних, Байесовский классификатор, решающие деревья, бустинг, случайный лес, классификатор Хаара, максимизация ожидания, k-ближайших соседей, машины опорных векторов. Для задач распознавания образов широко применяются нейронные сети. Если вы не руками реализуете какой-то алгоритм, это совсем не означает, что он не используется уже в готовом, применяемом вами устройстве/программе.

Источник

Введение в машинное обучение

1.1 Введение

Благодаря машинному обучению программист не обязан писать инструкции, учитывающие все возможные проблемы и содержащие все решения. Вместо этого в компьютер (или отдельную программу) закладывают алгоритм самостоятельного нахождения решений путём комплексного использования статистических данных, из которых выводятся закономерности и на основе которых делаются прогнозы.

Технология машинного обучения на основе анализа данных берёт начало в 1950 году, когда начали разрабатывать первые программы для игры в шашки. За прошедшие десятилетий общий принцип не изменился. Зато благодаря взрывному росту вычислительных мощностей компьютеров многократно усложнились закономерности и прогнозы, создаваемые ими, и расширился круг проблем и задач, решаемых с использованием машинного обучения.

Чтобы запустить процесс машинного обучение, для начала необходимо загрузить в компьютер Датасет(некоторое количество исходных данных), на которых алгоритм будет учиться обрабатывать запросы. Например, могут быть фотографии собак и котов, на которых уже есть метки, обозначающие к кому они относятся. После процесса обучения, программа уже сама сможет распознавать собак и котов на новых изображениях без содержания меток. Процесс обучения продолжается и после выданных прогнозов, чем больше данных мы проанализировали программой, тем более точно она распознает нужные изображения.

Благодаря машинному обучению компьютеры учатся распознавать на фотографиях и рисунках не только лица, но и пейзажи, предметы, текст и цифры. Что касается текста, то и здесь не обойтись без машинного обучения: функция проверки грамматики сейчас присутствует в любом текстовом редакторе и даже в телефонах. Причем учитывается не только написание слов, но и контекст, оттенки смысла и другие тонкие лингвистические аспекты. Более того, уже существует программное обеспечение, способное без участия человека писать новостные статьи (на тему экономики и, к примеру, спорта).

1.2 Типы задач машинного обучения

Все задачи, решаемые с помощью ML, относятся к одной из следующих категорий.

1)Задача регрессии – прогноз на основе выборки объектов с различными признаками. На выходе должно получиться вещественное число (2, 35, 76.454 и др.), к примеру цена квартиры, стоимость ценной бумаги по прошествии полугода, ожидаемый доход магазина на следующий месяц, качество вина при слепом тестировании.

2)Задача классификации – получение категориального ответа на основе набора признаков. Имеет конечное количество ответов (как правило, в формате «да» или «нет»): есть ли на фотографии кот, является ли изображение человеческим лицом, болен ли пациент раком.

3)Задача кластеризации – распределение данных на группы: разделение всех клиентов мобильного оператора по уровню платёжеспособности, отнесение космических объектов к той или иной категории (планета, звёзда, чёрная дыра и т. п.).

4)Задача уменьшения размерности – сведение большого числа признаков к меньшему (обычно 2–3) для удобства их последующей визуализации (например, сжатие данных).

5)Задача выявления аномалий – отделение аномалий от стандартных случаев. На первый взгляд она совпадает с задачей классификации, но есть одно существенное отличие: аномалии – явление редкое, и обучающих примеров, на которых можно натаскать машинно обучающуюся модель на выявление таких объектов, либо исчезающе мало, либо просто нет, поэтому методы классификации здесь не работают. На практике такой задачей является, например, выявление мошеннических действий с банковскими картами.

1.3 Основные виды машинного обучения

Основная масса задач, решаемых при помощи методов машинного обучения, относится к двум разным видам: обучение с учителем (supervised learning) либо без него (unsupervised learning). Однако этим учителем вовсе не обязательно является сам программист, который стоит над компьютером и контролирует каждое действие в программе. «Учитель» в терминах машинного обучения – это само вмешательство человека в процесс обработки информации. В обоих видах обучения машине предоставляются исходные данные, которые ей предстоит проанализировать и найти закономерности. Различие лишь в том, что при обучении с учителем есть ряд гипотез, которые необходимо опровергнуть или подтвердить. Эту разницу легко понять на примерах.

Машинное обучение с учителем

Предположим, в нашем распоряжении оказались сведения о десяти тысячах московских квартир: площадь, этаж, район, наличие или отсутствие парковки у дома, расстояние от метро, цена квартиры и т. п. Нам необходимо создать модель, предсказывающую рыночную стоимость квартиры по её параметрам. Это идеальный пример машинного обучения с учителем: у нас есть исходные данные (количество квартир и их свойства, которые называются признаками) и готовый ответ по каждой из квартир – её стоимость. Программе предстоит решить задачу регрессии.

Ещё пример из практики: подтвердить или опровергнуть наличие рака у пациента, зная все его медицинские показатели. Выяснить, является ли входящее письмо спамом, проанализировав его текст. Это всё задачи на классификацию.

Машинное обучение без учителя

В случае обучения без учителя, когда готовых «правильных ответов» системе не предоставлено, всё обстоит ещё интереснее. Например, у нас есть информация о весе и росте какого-то количества людей, и эти данные нужно распределить по трём группам, для каждой из которых предстоит пошить рубашки подходящих размеров. Это задача кластеризации. В этом случае предстоит разделить все данные на 3 кластера (но, как правило, такого строгого и единственно возможного деления нет).

Если взять другую ситуацию, когда каждый из объектов в выборке обладает сотней различных признаков, то основной трудностью будет графическое отображение такой выборки. Поэтому количество признаков уменьшают до двух или трёх, и становится возможным визуализировать их на плоскости или в 3D. Это – задача уменьшения размерности.

1.4 Основные алгоритмы моделей машинного обучения

1. Дерево принятия решений

Это метод поддержки принятия решений, основанный на использовании древовидного графа: модели принятия решений, которая учитывает их потенциальные последствия (с расчётом вероятности наступления того или иного события), эффективность, ресурсозатратность.

Для бизнес-процессов это дерево складывается из минимального числа вопросов, предполагающих однозначный ответ — «да» или «нет». Последовательно дав ответы на все эти вопросы, мы приходим к правильному выбору. Методологические преимущества дерева принятия решений – в том, что оно структурирует и систематизирует проблему, а итоговое решение принимается на основе логических выводов.

2. Наивная байесовская классификация

Наивные байесовские классификаторы относятся к семейству простых вероятностных классификаторов и берут начало из теоремы Байеса, которая применительно к данному случаю рассматривает функции как независимые (это называется строгим, или наивным, предположением). На практике используется в следующих областях машинного обучения:

Всем, кто хоть немного изучал статистику, знакомо понятие линейной регрессии. К вариантам её реализации относятся и наименьшие квадраты. Обычно с помощью линейной регрессии решают задачи по подгонке прямой, которая проходит через множество точек. Вот как это делается с помощью метода наименьших квадратов: провести прямую, измерить расстояние от неё до каждой из точек (точки и линию соединяют вертикальными отрезками), получившуюся сумму перенести наверх. В результате та кривая, в которой сумма расстояний будет наименьшей, и есть искомая (эта линия пройдёт через точки с нормально распределённым отклонением от истинного значения).

Линейная функция обычно используется при подборе данных для машинного обучения, а метод наименьших квадратов – для сведения к минимуму погрешностей путем создания метрики ошибок.

4. Логистическая регрессия

Логистическая регрессия – это способ определения зависимости между переменными, одна из которых категориально зависима, а другие независимы. Для этого применяется логистическая функция (аккумулятивное логистическое распределение). Практическое значение логистической регрессии заключается в том, что она является мощным статистическим методом предсказания событий, который включает в себя одну или несколько независимых переменных. Это востребовано в следующих ситуациях:

Это целый набор алгоритмов, необходимых для решения задач на классификацию и регрессионный анализ. Исходя из того что объект, находящийся в N-мерном пространстве, относится к одному из двух классов, метод опорных векторов строит гиперплоскость с мерностью (N – 1), чтобы все объекты оказались в одной из двух групп. На бумаге это можно изобразить так: есть точки двух разных видов, и их можно линейно разделить. Кроме сепарации точек, данный метод генерирует гиперплоскость таким образом, чтобы она была максимально удалена от самой близкой точки каждой группы.

SVM и его модификации помогают решать такие сложные задачи машинного обучения, как сплайсинг ДНК, определение пола человека по фотографии, вывод рекламных баннеров на сайты.

Он базируется на алгоритмах машинного обучения, генерирующих множество классификаторов и разделяющих все объекты из вновь поступающих данных на основе их усреднения или итогов голосования. Изначально метод ансамблей был частным случаем байесовского усреднения, но затем усложнился и оброс дополнительными алгоритмами:

Кластеризация заключается в распределении множества объектов по категориям так, чтобы в каждой категории – кластере – оказались наиболее схожие между собой элементы.

Кластеризировать объекты можно по разным алгоритмам. Чаще всего используют следующие:

8. Метод главных компонент (PCA)

Метод главных компонент, или PCA, представляет собой статистическую операцию по ортогональному преобразованию, которая имеет своей целью перевод наблюдений за переменными, которые могут быть как-то взаимосвязаны между собой, в набор главных компонент – значений, которые линейно не коррелированы.

Практические задачи, в которых применяется PCA, – визуализация и большинство процедур сжатия, упрощения, минимизации данных для того, чтобы облегчить процесс обучения. Однако метод главных компонент не годится для ситуаций, когда исходные данные слабо упорядочены (то есть все компоненты метода характеризуются высокой дисперсией). Так что его применимость определяется тем, насколько хорошо изучена и описана предметная область.

9. Сингулярное разложение

В линейной алгебре сингулярное разложение, или SVD, определяется как разложение прямоугольной матрицы, состоящей из комплексных или вещественных чисел. Так, матрицу M размерностью [m*n] можно разложить таким образом, что M = UΣV, где U и V будут унитарными матрицами, а Σ – диагональной.

Одним из частных случаев сингулярного разложения является метод главных компонент. Самые первые технологии компьютерного зрения разрабатывались на основе SVD и PCA и работали следующим образом: вначале лица (или другие паттерны, которые предстояло найти) представляли в виде суммы базисных компонент, затем уменьшали их размерность, после чего производили их сопоставление с изображениями из выборки. Современные алгоритмы сингулярного разложения в машинном обучении, конечно, значительно сложнее и изощрённее, чем их предшественники, но суть их в целом нем изменилась.

10. Анализ независимых компонент (ICA)

Это один из статистических методов, который выявляет скрытые факторы, оказывающие влияние на случайные величины, сигналы и пр. ICA формирует порождающую модель для баз многофакторных данных. Переменные в модели содержат некоторые скрытые переменные, причем нет никакой информации о правилах их смешивания. Эти скрытые переменные являются независимыми компонентами выборки и считаются негауссовскими сигналами.

В отличие от анализа главных компонент, который связан с данным методом, анализ независимых компонент более эффективен, особенно в тех случаях, когда классические подходы оказываются бессильны. Он обнаруживает скрытые причины явлений и благодаря этому нашёл широкое применение в самых различных областях – от астрономии и медицины до распознавания речи, автоматического тестирования и анализа динамики финансовых показателей.

1.5 Примеры применения в реальной жизни

Пример 1. Диагностика заболеваний

Пациенты в данном случае являются объектами, а признаками – все наблюдающиеся у них симптомы, анамнез, результаты анализов, уже предпринятые лечебные меры (фактически вся история болезни, формализованная и разбитая на отдельные критерии). Некоторые признаки – пол, наличие или отсутствие головной боли, кашля, сыпи и иные – рассматриваются как бинарные. Оценка тяжести состояния (крайне тяжёлое, средней тяжести и др.) является порядковым признаком, а многие другие – количественными: объём лекарственного препарата, уровень гемоглобина в крови, показатели артериального давления и пульса, возраст, вес. Собрав информацию о состоянии пациента, содержащую много таких признаков, можно загрузить её в компьютер и с помощью программы, способной к машинному обучению, решить следующие задачи:

Пример 2. Поиск мест залегания полезных ископаемых

В роли признаков здесь выступают сведения, добытые при помощи геологической разведки: наличие на территории местности каких-либо пород (и это будет признаком бинарного типа), их физические и химические свойства (которые раскладываются на ряд количественных и качественных признаков).

Для обучающей выборки берутся 2 вида прецедентов: районы, где точно присутствуют месторождения полезных ископаемых, и районы с похожими характеристиками, где эти ископаемые не были обнаружены. Но добыча редких полезных ископаемых имеет свою специфику: во многих случаях количество признаков значительно превышает число объектов, и методы традиционной статистики плохо подходят для таких ситуаций. Поэтому при машинном обучении акцент делается на обнаружение закономерностей в уже собранном массиве данных. Для этого определяются небольшие и наиболее информативные совокупности признаков, которые максимально показательны для ответа на вопрос исследования – есть в указанной местности то или иное ископаемое или нет. Можно провести аналогию с медициной: у месторождений тоже можно выявить свои синдромы. Ценность применения машинного обучения в этой области заключается в том, что полученные результаты не только носят практический характер, но и представляют серьёзный научный интерес для геологов и геофизиков.

Пример 3. Оценка надёжности и платёжеспособности кандидатов на получение кредитов

С этой задачей ежедневно сталкиваются все банки, занимающиеся выдачей кредитов. Необходимость в автоматизации этого процесса назрела давно, ещё в 1960–1970-е годы, когда в США и других странах начался бум кредитных карт.

Лица, запрашивающие у банка заём, – это объекты, а вот признаки будут отличаться в зависимости от того, физическое это лицо или юридическое. Признаковое описание частного лица, претендующего на кредит, формируется на основе данных анкеты, которую оно заполняет. Затем анкета дополняется некоторыми другими сведениями о потенциальном клиенте, которые банк получает по своим каналам. Часть из них относятся к бинарным признакам (пол, наличие телефонного номера), другие — к порядковым (образование, должность), большинство же являются количественными (величина займа, общая сумма задолженностей по другим банкам, возраст, количество членов семьи, доход, трудовой стаж) или номинальными (имя, название фирмы-работодателя, профессия, адрес).

Для машинного обучения составляется выборка, в которую входят кредитополучатели, чья кредитная история известна. Все заёмщики делятся на классы, в простейшем случае их 2 – «хорошие» заёмщики и «плохие», и положительное решение о выдаче кредита принимается только в пользу «хороших».

Более сложный алгоритм машинного обучения, называемый кредитным скорингом, предусматривает начисление каждому заёмщику условных баллов за каждый признак, и решение о предоставлении кредита будет зависеть от суммы набранных баллов. Во время машинного обучения системы кредитного скоринга вначале назначают некоторое количество баллов каждому признаку, а затем определяют условия выдачи займа (срок, процентную ставку и остальные параметры, которые отражаются в кредитном договоре). Но существует также и другой алгоритм обучения системы – на основе прецедентов.

Источник