Стартап (курс CS183) - Стэнфорд, весна 2012 г. - Питер Тиль

Вопрос в том, останется ли ИИ чем-то, чем можно торговать. Это было бы чисто по Рикардо. Существует естественное разделение труда. Люди хороши в каких-то вещах. Компьютеры хороши в других. Так как они существенно отличаются друг от друга, ожидаемые выгоды от торговли высоки. Таким образом, они торгуют и реализуют эти выгоды. В данном сценарии ИИ не является заменой людям, но скорее дополнением.

Однако все зависит от относительной величины выгод. Сценарий выше реализуется в том случае, если ИИ немного лучше человеческого интеллекта. Но все может пойти по-другому, если ИИ окажется сильно лучше. Что, если он сможет делать в 3000 раз больше, чем человек в любых областях? Будет ли смысл ИИ вообще торговать с нами? Люди, в конце концов, не торгуют с мышами и обезьянами. Так что, хотя теория Рикардо — сильное экономическое предположение, в предельных случаях появляются аргументы в пользу Луддитской парадигмы.

Можно переформулировать ситуацию как борьбу за контроль. Насколько люди контролируют вселенную? По мере того как ИИ становится сильнее, мы получаем все больше контроля. Но потом ИИ достигает точки перегиба, где он становится сверхчеловеческим, и мы теряем контроль полностью. В этом качественное отличие от большинства технологий, которые дают людям больше контроля над миром без конца. У большинства технологий нет точки перегиба. Так что до тех пор пока компьютеры могут обеспечивать нам контроль и преодоление неизвестности, есть вероятность зайти слишком далеко. Мы можем создать суперкомпьютер в облаке, который назовет себя Зевсом, и начнет пулять молниями в людей.

III. Возможности ИИ

Величие и непонятность — это интересные вопросы. Но вопрос, можно ли, и каким образом можно поднять денег при помощи ИИ, может быть еще интереснее. Так насколько велики возможности, даруемые нам ИИ?

A. Не рановато ли для ИИ?

Все, о чем мы говорили в классе, остается важным. Вопрос тайминга здесь особенно важен. Сейчас может быть все еще очень рано для ИИ. Нужны обоснованные доводы. Мы знаем, что часто проекты будущего проваливаются. Сверхзвуковые самолеты 70-х провалились: они были слишком шумные, люди на них жаловались. Наладонники типа iPad из 90-х и смартфоны 1999 провалились. Siri — это, вероятно, пока еще ранняя пташка. Так что пока еще очень непонятно, пришло ли время для ИИ.

Но мы можем попробовать привести доводы об ИИ, сравнивая его с вещами типа биотеха. Если бы у вас была возможность заняться ИИ или штуками из разряда биотех 2.0, которые мы осветили на предыдущем занятии, традиционный взгляд показал бы, что биотех — это верный выбор. Возможно, биоинформационная революция уже сейчас начинает оказывать влияние на людей, или начнет в ближайшем будущем, а реальное прикладное использование ИИ куда более отдаленно. Но традиционный взгляд не всегда прав.

B. Единогласие и скептицизм

На прошлой неделе в Санта Кларе произошло событие под названием “5 лучших венчурных инвесторов, 10 технологических трендов” (5 Top VC’s, 10 Tech Trends). Каждый инвестор сделал два предсказания по поводу технологий на следующие 5 лет. Аудитория голосовала, согласна ли она с каждым предсказанием. Одно из моих предсказаний было в том, что биология превратится в информационную науку. Аудитория проголосовала: море зеленого. 100% согласились с предсказанием. Ни одного несогласного. Возможно, мы должны занервничать. Единодушие в массах может сильно сбивать с толку. Возможно, стоит сильнее задуматься над тезисом “биотех как информационная наука”.

Единственная идея, которую люди посчитали плохой, была о том, что все машины станут электрическими. 92% аудитории проголосовало против этого. Есть много причин предвзято относиться к электрокарам. Но теперь одной причиной меньше.

Ближайший к ИИ вопрос, который обсуждался, был в том, продолжит ли действовать закон Мура. Аудитория разделилась 50/50 по этому вопросу. Если он продолжит действовать, то есть если будет происходить более чем удвоение каждые 18 месяцев, то, кажется, мы получим что-то типа ИИ уже в ближайшие годы. И в то же время большинство людей считают, что ИИ куда дальше от нас, чем биотех 2.0.

C. (Скрытые) пределы

Один из способов сравнения биотеха и ИИ — это подумать, нет ли там серьезных — и может скрытых — пределов в каждом из них. Сюжет революции биотеха: мы собираемся обратить вспять и вылечить все типы болезней, так что если вы просто доживете до момента x, вы сможете жить вечно. Это неплохой сюжет. Однако, весьма вероятно, существуют скрытые барьеры, подводные камни. К примеру, возможно, различные системы в организме человека действуют друг против друга для достижения равновесия. Теломераза помогает клеткам делиться неограниченное количество раз. Это важно, поскольку если клетки не делятся, вы перестаете расти и начинаете стареть. Так что первая линия рассуждений заключается в том, что вам надо пить красное вино и делать всё возможное для сохранения теломеразы.

Проблема в том, что неограниченное деление клеток начинает походить на рак в какой-то момент. Так что возможно, что старение и рак влияют друг на друга взаимоисключающе. Если бы люди не старели, они бы быстрее умирали от рака. Но если вы отключите теломеразу раньше, вы просто постареете быстрее. Устраняя одну проблему, получаем другую. Непонятно, где тут правильный баланс, могут ли быть преодолены эти препятствия вообще, существуют ли они в действительности.

Самый вероятный кандидат на барьер в мире ИИ — это сложность кода. Может существовать некий лимит, где ПО становится слишком сложным по мере того, как вы создаете новые и новые строки кода. После определенной точки оказывается так много всего, за чем нужно следить, что уже никто не понимает, что происходит. Дебаггинг становится сложным или вовсе невозможным. Что-то такое можно сказать о Microsoft Windows через несколько десятилетий. Она была элегантной. Возможно, она может быть немного улучшена, или уже была. Однако в ней могут существовать существенные скрытые барьеры. В теории, вы добавляете строки кода, чтобы улучшить вещь. Но они могут сделать только хуже.

Фундаментальная борьба между экспоненциальной надеждой и асимптотической реальностью. Оптимистичный взгляд — это экспоненциальная кривая. Мы можем выступать за неё, но она вроде как неизвестна. Вопрос в том, когда вступит в действие асимптота, и вступит ли.

И версия ИИ:

D. ИИ выбивается в лидеры

Существует множество параллелей между созданием нового в биотехе и в ИИ. Однако есть три отличительных преимущества в фокусировании на ИИ:

1. Свобода инженерии

2. Свобода от регулирования и предписаний

3. Недоисследованность (действие вопреки тенденциям)

Свобода инженерии сопряжена с тем, что биотех и ИИ фундаментально очень разные. Биология развивалась в природе. Иногда люди представляют биологические процессы в виде чертежей. Но точнее было бы представлять их в виде рецептов. Биология — это набор инструкций. Добавьте пищи и воды и запекайте 9 месяцев. И таких конструкций целые серии. Если пирожок у вас не вышел, очень сложно исправить его, просто заглянув в кулинарную книгу.

Это не идеальная аналогия. Но в целом, ИИ куда больше похож на чертеж. В отличие от основанного на рецептах биотеха, ИИ гораздо менее зависим от точных последовательностей шагов. У вас больше инженерной свободы для раскладывания вещей в разных комбинациях. В процессе изменения биологического рецепта гораздо меньше свободы, чем в создании чертежа с нуля.

С точки зрения законодательства, радикальное различие заключается в том, что биотех очень сильно зарегулирован. Разработка нового лекарства занимает 10 лет и обходится в 1.3 миллиарда долларов. В этой работе куча предосторожностей. В FDA (Управление по контролю качества пищевых продуктов и лекарственных средств) работает 4000 человек.

ИИ, напротив, является нерегулируемым полем. Вы можете запускаться, как только готово ваше ПО. Это может стоить вам $1 миллион, или несколько миллионов. Но не миллиард. Вы можете работать у себя в подвале. Если вы попытаетесь синтезировать Эболу или оспу у себя в подвале, вы можете влипнуть в самые разные неприятности. Но если вы просто хотите рубиться в ИИ у себя в подвале, это нормально. Никто не придет за вами. Может, дело в том, что бюрократы и политики — чудилы без воображения. Может, законодатели просто не интересуются ИИ. В любом случае, каковы бы ни были причины, вы свободны в работе.