Самое страшное в искусственном интеллекте то, что мы никогда не знаем, кто учитель!

Вы не можете игнорировать искусственный интеллект:

Если вы работаете над технологическим стартапом, ИИ и машинное обучение, вероятно, являются частью вашей дорожной карты (а если нет, то должны быть).

Искусственный интеллект (ИИ) окружает нас повсюду. ИИ присутствует, когда вы что-то ищете в Интернете. ИИ помогает нам фильтровать спам. ИИ позволяет Siri или Alexa понять, что мы просим.

ИИ существует, чтобы помогать нам отвечать на вопросы, и мы надеемся, что с ответами мы сможем принимать более правильные решения.

Звучит хорошо.

Но тогда почему люди вроде Илона Маска, Билла Гейтса или покойного Стивена Хокинга так беспокоятся об ИИ?

Это потому, что существует реальная опасность того, что мы создадим некоторые ИИ, которые мы не поймем или, что еще хуже, не будем контролировать (привет, Скайнет!).

Объяснимость ИИ — это набор механизмов, которые мы можем использовать, чтобы убедиться, что человек может понять, почему машина приняла конкретное решение.

Ниже приведены мои пять причин, почему вы всегда должны пытаться создать Объяснимый ИИ, когда вам нужен искусственный интеллект.

Причина 1 — ИИ иногда ошибается:

Несколько лет назад это было автокоррекцией, иногда смущающей, иногда забавной, но с ограниченными последствиями, за исключением неловкого момента.

Существует бесконечный поток историй о неудачах ИИ из-за предвзятости, неполных данных или неверных моделей:

Причина 2. Откуда мы знаем, что это «правильный» ответ?

На некоторые вопросы есть простые ответы. Вероятно, все мы можем согласиться с тем, что (в большинстве случаев) «2» — это правильный ответ на вопрос «1+1=?».

Но чем сложнее вопросы, тем сложнее становится.

Даже на такой вопрос, как «Это кошка?», который кажется достаточно простым, не так просто ответить.

Прежде всего договоримся об определении «кошка»: считаем ли мы тигра или льва котом или нет? И есть еще много шагов, связанных с этим.

Если вопрос становится достаточно сложным, получить общепринятое определение «правильного ответа» может стать непросто.

Рассмотрим эти вопросы:

  • А против Б: кто прав?
  • Вам это понравится?
  • Что такое счастье?

Есть много вопросов, на которые нет четкого «правильного» ответа.

Помните, что люди не могут даже договориться между собой о пользе вакцин, реальности глобального потепления или о том, круглая земля или нет.

Как они могут быть уверены, что ИИ станет лучшим решением для получения правильного ответа?

Причина 3 — Учитель имеет огромное влияние на ИИ:

Все ИИ начинают сначала как маленькие дети, и им нужно учиться, прежде чем они смогут дать «правильный» ответ (это кошка, да/нет).

Они узнают, как получить правильный ответ, поглощая большое количество данных и используя алгоритмы машинного обучения. Затем они сравнивают свой ответ с тем, что учитель считает «правильным».

Если ИИ дает неверный ответ, он пытается снова, используя другой метод.

Когда достаточное количество ответов, сделанных машиной, совпадает с «правильными» ответами, определенными учителем, мы считаем, что ИИ усвоил урок.

Занятия закончились, ИИ выпустился, и мы выпускаем его на волю. ИИ будет использовать свой недавно приобретенный интеллект, чтобы ответить на вопрос (это кошка?).

Если мы ожидаем, что машина даст правильный ответ, нам нужно должным образом научить машину «правильным» и «неправильным» ответам.

С сегодняшним ИИ мы никогда не знаем, кто учитель или какую предвзятость учитель мог внести в алгоритм или в данные, используемые для обучения машины.

Причина 4 — ИИ становятся все лучше и лучше:

В сообществе ИИ общепринято мнение, что в какой-то момент ИИ станет более «разумным», чем люди:

Вы можете думать об интеллекте как о железнодорожной линии.

Улучшение ИИ похоже на движение поезда по этой линии.

Существует много разных ИИ, и каждый конкретный искусственный интеллект является пассажиром этого поезда.

По мере того, как поезд движется мимо разных станций на линии разведки, все больше ИИ выходят из поезда, и все больше ИИ начинают выполнять свою работу (отвечать на вопросы) в реальном мире.

Во-первых, мы увидели, как искусственный узкий интеллект (УНИ) выходит из поезда. Они сосредоточены на одной узкой задаче: отфильтровать спам-письма, найти кота на этой картинке, водить машину.

Далее мы увидим Общий искусственный интеллект (AGI). Железнодорожная станция, где эти ИИ будут «высаживаться», — это станция Human Brain’s Capacity.

По определению, мы, люди, не можем пройти мимо железнодорожной станции «Возможности человеческого мозга» на железной дороге разведки. Это конец линии разведки для всех нас.

С машинами и ИИ дело обстоит иначе: они могут оставаться в поезде разведки после этой станции. Эти ИИ называются искусственным сверхразумом (ASI).

По определению, ИСИ будут более способными, чем любой человек, на «интеллектуальном» фронте.

В какой-то момент ИСИ сойдут с поезда разведки и начнут отвечать на вопросы в реальном мире.

Мы хотим, чтобы ИИ находил лучший способ получить «правильный ответ».

У ИИ нет причин прекращать попытки и изучать новые способы получения этого «правильного ответа».

Причина 5 — Нам всем нужно доверять процессу:

ИИ, стоящий за Google Translate, давно придумал свой новый язык.

Этот новый язык служит узкой цели (перевод материала) с максимальной эффективностью. Тем не менее, это язык, который «не читается и не используется людьми».

Это нормально, потому что многие люди могут легко и быстро проверить перевод и решить, достаточно ли он хорош.

Но когда вопрос становится сложным (Что такое счастье? Вам это понравится?), невозможно найти консенсус относительно «универсально правильного» или «универсально неправильного» ответа.

Мы должны прибегнуть к следующей лучшей вещи: нам нужно доверять процессу принятия решений и соглашаться с ним.

Нам нужно понять ключевые факторы, переменные и общий процесс, повлиявший на ИИ, если мы хотим доверять ответу на заданный нами вопрос.

Нам нужно иметь некоторое представление о том, как ИИ пришел к ЭТОМУ выводу.

Никогда не забывайте о важности «почему»:

Каждый гуру менеджмента скажет вам, что люди будут доверять вам больше, если вы сможете объяснить, ПОЧЕМУ вы что-то делаете.

То же самое должно быть и для ИИ:

  • ИИ становятся все более и более распространенными.
  • Вопросы, которые мы задаем ИИ, становятся все более и более сложными.
  • Грань между «правильным» и «неправильным» становится все труднее установить.

Но большинство современных ИИ по-прежнему представляют собой большие черные ящики.

Мы не понимаем, как ИИ «соединяет точки» и решает, что его ответ является «правильным» ответом на заданный нами вопрос.

Это должно измениться.

Объяснимость ИИ — это ключ к тому, чтобы мы могли доверять ИИ.

Благодаря объяснимости ИИ мы можем:

  • Поверьте, что ИИ дает нам «правильный» ответ.
  • Определите и отметьте «неправильные» ответы, которые ИИ БУДУТ давать вам время от времени.
  • Поймите предвзятость обучения и подводные камни ваших моделей обучения ИИ.
  • Создавайте более продвинутые ИИ, способные дать нам наилучшие возможные ответы.
  • Убедитесь, что все доверяют процессу.

Хорошая новость заключается в том, что объяснимость ИИ набирает обороты: в ноябре 2019 года Google запустила свой набор инструментов объяснимого ИИ. Я ожидаю, что другие крупные игроки в этой области последуют этому примеру.

Я считаю, что компании, использующие объяснимый ИИ, скоро получат значительное конкурентное преимущество.

Что вы думаете?

Используете ли вы алгоритмы машинного обучения и ИИ в своем стартапе?

Вы уже рассматривали объяснимый ИИ?

Я Франк Булье, серийный предприниматель, консультант по стартапам (включая команду Antler), архитектор баз данных, разработчик, энтузиаст PropTech, и мне вообще интересно, что будет дальше. Вы можете связаться со мной в LinkedIn.