Одним из ключевых текстов для тех, кто заинтересован в параллельном развитии технологий и общества являются шесть законов технологии Мелвина Крансберга. Он был первым, кто выдвинул концепцию: «технология не является ни хорошим ни плохим; при этом она не является нейтральной». Под этим Кранцберг подразумевал, что взаимодействие технологии с обществом таково, что «технические разработки часто имеют экологические, социальные и человеческие последствия, которые выходят далеко за рамки непосредственных целей самих технических устройств и практик, а одна и та же технология может иметь совершенно разные результаты ее применения в разных контекстах или для различных обстоятельств».
Если упростить, то тезис Кранцберга можно выразить примерно так: «любая технология хороша и плоха одновременно, все зависит от того, как она используется» — тактика, которую сторонники развития технологий регулярно применяют, чтобы остановить спор. Поэтому лучший способ использования закона Кранцберга — задать простой латинский вопрос: «Cui bono?» (Кому это выгодно? – лат.)- кому выгодна любая предложенная или раскрученная технология? И, косвенно, — кто проигрывает?
С любой технологией общего назначения, которой давно стал Интернет, ответ будет сложным: различные группы, общества, сектора, может быть, даже континенты — выигрывают и проигрывают, поэтому в итоге возникает вопрос: кому это выгодно больше всего? Для интернета в целом пока рано говорить. Но когда мы фокусируемся на конкретной цифровой технологии, все становится немного яснее.
Речь в данном случае идет о технологии, известной как «машинное обучение», проявление искусственного интеллекта, которой «одержимо» общество сегодня. Это действительно комбинация алгоритмов, которые «обучаются» на «больших данных», то есть огромных объемах информации. В принципе, любой, кто обладает вычислительными навыками для использования свободно доступных программных инструментов, таких как TensorFlow, может заниматься машинным обучением. Но на практике они не могут, потому что у них нет доступа к огромным базам данных, необходимым для обучения таких алгоритмов.
Это означает, что предприятия, в которых проводится большинство ведущих исследований в области машинного обучения, — это небольшое количество технологических гигантов, таких как Google, Facebook и Amazon, которые накопили колоссальные хранилища поведенческих данных за последние два десятилетия. Поскольку они стали доминировать в технологии, на вопрос Кранцберга — кому это выгодно? — легко ответить: тем кто создает и владеет большим количеством данных. Машинное обучение теперь движет всем в этих компаниях — «персонализация» услуг, рекомендации, таргетированная реклама, поведенческое прогнозирование и т.д. и т.п. Для них ИИ (под которым они в основном подразумевают машинное обучение) «везде». И это делает их самыми прибыльными предприятиями в истории капитализма.
Как следствие, мощная технология с большим потенциалом для пользы в настоящее время используется главным образом для приватизации. При этом она характеризуется нерегулируемым преждевременным запуском, алгоритмическим уклоном, усилением неравенства, подрывом демократических процессов и усилением скрытого надзора до токсичных уровней. То, что так не должно быть, было наглядно продемонстрировано на прошлой неделе с докладом в ведущем биологическом журнале Cell.
Доклад о необычном проекте, который использовал машинное обучение в общественных (по сравнению с частными) интересах. Исследователи использовали эту технологию для решения проблемы устойчивости бактерий к обычным антибиотикам — проблема, которая резко возрастает во всем мире, и предсказывает, что без ее решения устойчивые и постоянно мутирующие инфекции смогут убивать до 10 миллионов человек ежегодно к 2050 году.
Команда исследователей из Массачусетского технологического института и Гарварда создала нейронную сеть (алгоритм, основанный на архитектуре мозга) и обучила ее обнаруживать молекулы, которые ингибируют рост бактерии Escherichia coli, используя набор данных из 2335 молекул, для которых была известна антибактериальная активность — включая библиотека из 300 существующих утвержденных антибиотиков и 800 натуральных продуктов из растительных, животных и микробных источников. Затем они попросили сеть спрогнозировать, что будет эффективно против кишечной палочки, но будет отличаться от обычных антибиотиков. Это дало сотню кандидатов на физическое тестирование и привело к одному (который они назвали «галицин» в честь компьютера HAL 9000 от 2001 года: Космическая одиссея).), который был активен против широкого спектра патогенных микроорганизмов, в том числе двух, которые на 100% устойчивы к действующим антибиотикам и поэтому являются потенциальным кошмаром для больниц во всем мире.
Есть ряд других примеров машинного обучения для общего блага, а не для личной выгоды. Можно подумать, например, о сотрудничестве между Google DeepMind и глазной больницей Moorfields. Но этот новый пример является наиболее впечатляющим на сегодняшний день, потому что он выходит за рамки расширения возможностей скрининга человека для содействия процессу открытия. Таким образом, хотя основными бенефициарами машинного обучения, скажем, для такой токсичной технологии, как распознавание лиц, являются в основном авторитарные политические режимы и ряд ненадежных или сомнительных частных компаний, бенефициарами этой технологии в качестве помощи научному открытию может быть человечество как вид. Другими словами, «технология хороша и плоха одновременно». Первый закон правил Кранцберга подтверждает эту теорию…
По материалам: The Guardian
