Скрытая угроза больших данных

22 ноября, 2016

616

КЕМБРИДЖ (США) – В теории игр термином «цена анархии» называют снижение эффективности крупной системы из-за того, что частные лица действуют внутри этой системы в собственных корыстных интересах. Это массовое явление, практически все мы регулярно с ним сталкиваемся в той или иной форме, пишут Карло Ратти – директор лаборатории Senseable City при Массачусетском технологическом институте и Дирк Хелбинг – профессор компьютерной социологии в Швейцарском федеральном технологическом институте в Цюрихе.

Например, если вы занимаетесь городским планированием и отвечаете за управление трафиком, у вас может быть два подхода к проблеме транспортных потоков в вашем городе. Как правило, более эффективным оказывается централизованный подход сверху-вниз, который охватывает всю систему и позволяет, выявляя узкие участки, устранять их с помощью тех или иных изменений. Второй вариант – просто разрешить водителям делать собственный выбор на дороге, предполагая, что масса таких малых решений в сумме приведет к желаемому результату. Первый подход сокращает издержки анархии, он позволяет лучше использовать всю доступную информацию.

Мир сегодня тонет в количестве данных. В одном только 2015 году люди создали столько же информации, сколько за все предыдущие годы существования человеческой цивилизации. Каждый раз, когда отправляем сообщение, совершаем звонок или транзакцию, мы оставляем цифровые следы. Мы быстро приближаемся к тому, что итальянские писатель Итало Кальвино проницательно назвал «памятью мира»: полная цифровая копия нашей физической вселенной.

По мере того как Интернет проникает в новые сегменты физического пространства благодаря «Интернету вещей», цена анархии будет приобретать растущее значение в нашем обществе, при этом искушение полностью ее устранить с помощью могущественной аналитики «больших данных» будет лишь усиливаться.

Примеры такого подхода имеются в изобилии. Представьте себе привычную операцию – покупка книги в интернет-магазине Amazon. У Amazon собраны горы информации обо всех пользователях, начиная с данных профиля и истории поисковых запросов и заканчивая сведениями о фразах, которые они выделяют, читая электронные книги. Компания использует эти данные, чтобы предсказать, что еще могут захотеть купить ее пользователи. Как и в любых формах централизованного искусственного разума, шаблоны прошлого используются для прогнозирования шаблонов будущего. Посмотрев на список десяти книг, которые вы купили раньше, Amazon способен – и с возрастающей точностью – предложить вам следующую книгу для прочтения.

Но здесь мы должны задуматься о том, что мы теряем, сокращая уровень анархии. Самой значительной книгой, которую вы должны прочесть после десяти предыдущих, является совсем не та, что идеально подходит к сложившемуся шаблону. Скорее, это должна быть книга, которая вас удивит или заставит посмотреть на мир другими глазами.

В отличие от описанного выше сценария управления транспортными потоками, оптимизированные подсказки (часто они становятся самосбывающимися пророчествами по поводу вашей следующей покупки) не являются наилучшей парадигмой поиска книг онлайн. «Большие данные» помогают улучшить наш выбор, отсеивая то, что мы видеть не хотим, но мы должны как-то высказаться, чтобы совершенно случайно найти ту самую одиннадцатую книгу.

Верное в отношении покупки книг, оказывается также верным и для многих других систем, которые обретают цифровую форму, например, это наши города и общество. В централизованных муниципальных системах сейчас используются алгоритмы для мониторинга городской инфраструктуры – работа светофоров, загруженность метро, обеспечение электроэнергией, уборка мусора и так далее. Многие мэры городов во всем мире возбуждены идеей комнаты центрального управления, например такой, как спроектированный IBM операционный центр в Рио-де-Жанейро, где городские менеджеры могут реагировать на новую информацию в реальном времени.

Однако когда централизованные алгоритмы начинают управлять всеми аспектами жизни общества, тогда опирающаяся на данные технократия начинает грозить подавлением инноваций и демократии. Такого исхода следует избегать любой ценой. Децентрализованный процесс принятия решений критически важен для прогресса общества. Напротив, оптимизация, опирающаяся на анализ данных, ведет к решениям, исходя из предустановленной парадигмы, которая – в ее нынешней форме – обычно исключает идеи, противоречащие общепринятому мнению, трансформирующие, помогающие движению человечества вперед.

Случайности в нашей жизни – в определенных количествах – открывают двери для новых идей или способов мышления, которые в ином случае были бы просто проигнорированы. На макроуровне это необходимо для самой жизни. Если бы природа использовала алгоритмы предсказания, которые бы препятствовали случайной мутации при репродукции ДНК, наша планета, наверное, все еще пребывала бы в стадии одноклеточных организмов, достигших максимальной степени оптимизации.

Децентрализованное принятие решений позволяет создать синергию между разумом людей и машин через процессы естественной и искусственной со-эволюции. Распределенный разум может иногда приводить к снижению эффективности в краткосрочной перспективе, но в конечном итоге он ведет к созданию более креативного, разнообразного и устойчивого общества. Цена анархии – это цена, которую стоит заплатить, если мы хотим сохранить инновации, рождаемые счастливым случаем.