Технологическая промышленность многих экономик с каждым днем все глубже внедряется в личные данные людей, что может привести к пугающим последствиям, напоминающим сюжеты «Черного зеркала». Речь идет не только о Google, Facebook или Amazon, но и об остальной части Кремниевой долины, поглощающей наш цифровой ресурс: огромное количество компаний все чаще собирает данные о каждом нашем движении с целью получения прибыли, в том числе и теми способами, которые могут неблагоприятно и незаметно повлиять на нас.
Даже Шерил Коннелли, в целом оптимистичная сотрудница-футурист компании Ford, стала беспокоиться о будущем. По ее словам, растущее экономическое неравенство, сияющий цифровой разрыв и постоянные нарушения конфиденциальности подводят нас к сюжету другого фантастического фильма — антиутопии под названием «1984».
Во многих странах существует проблема недостаточного количества правовых рамок, связанных со сбором и потенциальным злоупотреблением личными данными. В прошлом году, всего через несколько месяцев после скандала Facebook с Cambridge Analytica, Европа стала разрабатывать новые правила сбора информации в рамках «Общего Положения о Конфиденциальности Данных» (General Data Privacy Regulation). Вскоре после этих событий Калифорния приняла собственный национальный закон о конфиденциальности данных, который должен вступить в силу в 2020 году.
Новые законы стали важными подвижками в сторону конфиденциальности личной жизни в прошлом году, омраченной скандалами и утечками в индустрии высоких технологий, которые напоминали всем нам о жуткой стороне инноваций. Вот несколько новейших технологий, за которыми нужно внимательно следить уже в этом году.
1. Распознавание лиц
Аэропорты, магазины, казино и множество других мест используют распознавание лиц, даже в режиме реального времени, для поиска подозрительных людей с помощью огромных малоизвестных баз данных. Австрия запускает собственную национальную систему сканирования лиц, а в Китае подобная технология помогает поймать преступников даже на фестивале пива, которые ничего не подозревая распивают хмельные напитки.
В декабре, когда Amazon продолжила сталкиваться с критикой за продажу своего сервиса Rekognition, один из самых знаменитых призывов к его урегулированию исходил от одного из главных конкурентов компании в сегменте искусственного интеллекта. Один из президентов Microsoft Брэд Смит писал тогда: «Мы не верим, что возможно добиться лучшего уровня обслуживания в рамках той технологической гонки, когда компании вынуждены выбирать между социальной ответственностью и рыночным успехом».
2. Аффективное распознавание
Так называемое программное обеспечение для распознавания аффекта используется не только для оценки кандидатов на работу: полиция все чаще прибегает к системам на основе искусственного интеллекта, чтобы определить, если ли риск того, что конкретный человек может быть опасен, основываясь на его лицевых жестах и голосе.
Некоторые эксперты описали данный метод, как современную версию физиогномики (дисциплина, изучающая связи психики и поведения со структурой мозга и чертами лица).
3. Цифровые люди
Лил Микаэла, очаровавшая весь мир своим аккаунтом в Instagram, была только началом. Сейчас уже появились цифровые ведущие новостей и такие помощники, как Google Duplex, способный звонить в рестораны и парихмахерские от имени пользователя.
Человечность «Дуплекса» была настолько реалистичной, что многие люди обвинили Google в распространении фейка, однако Fast Company опробовала услугу и убедилась в ее правдивости и работоспособности. В то время как цифровые «люди» предлагаются для обсуждения клиентов, они рискуют усугубить среду, в которой живые люди не смогут отличить выдумку от реальности.
4. Цифровые фейки
Как и в случае с цифровыми людьми, технология deepfake — видео, предназначенное для того, чтобы заставить зрителей думать, что кто-то сказал или сделал что-то такое, чего он на самом деле не делал и не произносил — недавно уступила место новым методам, таким как фотореалистичное моделирование лица одного человека на голову другого прямо в видео.
В то время как одни эксперты ведут борьбу с продвинутыми цифровыми подделками при поддержке таких агенств, как DARPA, некоторые другие также поднимают тревогу о перспективе гораздо менее сложного вида атаки — распознавания поддельных данных с мошеннических документов.
5. Человеческая роботизация
Google сегодня способен автоматически дополнить наши предложения подходящими по смыслу словами. Это, конечно, удобно, но принятие за нас решений компанией Google того, что мы должны написать, слегка подталкивает нас, людей, на территорию роботов.
«Большая часть прогнозирующей аналитики лежит в основе того, есть ли у нас свободная воля», — сказал специалист по технологической этике Дэвид Полгар представителю Fast Company Марку Уилсону, — «Я выбираю следующий шаг или Google? И если компания может предугадать мой следующий шаг, то что это говорит обо мне?»
Между тем, водители такси и другие работники с алгоритмическим управлением сталкиваются с таким же важным вопросом, пишет Алекс Розенблат, автор Uberland: «Учитывая, что Uber рассматривает своих работников как «потребителей алгометрических технологий» и продвигает их в качестве самозанятых предпринимателей, то нужно дать ответ на один не простой и непонятный вопрос: если вы используете приложение для работы, общество должно считать вас потребителем, предпринимателем или работником?»
6. Мониторинг рабочего места
Компании уже многие году умеют отслеживать местонахождение сотрудников и следить за их общением, но сейчас их мониторинг становится приближенным непосредственно к телам работников.
Например, в прошлом году Amazon получила патент на браслет, использующий тактильную обратную связь для коррекции действий сотрудников, допустивших ошибку в работе. Другие компании используют датчики в офисах для отслеживания движения и использования рабочего пространства.
7. Домашнее наблюдение
Умные домашние гаджеты расцвели 2018 году, принеся в дом больше камер и устройств распознаванием лиц. Facebook запустила Portal, Google расширила свою линейку Home Hub, а Amazon открыла умный сервис двойных звонков Ring в рамках кампании продвижения своих умных устройств в дома потребителей (на прошлой неделе компания заявила, что было продано более 100 миллионов устройств Alexa на борту).
Всех нас уже тревожно поразила способность Alexa распознавать разговоры людей, но теперь компания движется к интеграции технологии распознавания лиц в своих устройствах, которая, по словам «Американского союза защиты гражданских свобод», предвещает «опасное будущее». Конечно, не только Apple, Google и Amazon проникают глубже в наши дома — наши умные телевизоры тоже смотрят на нас.
8. Злоупотребление генетикой
Редактирование генома с помощью таких инструментов, как CRISPR, обещает невероятные улучшения показателей здоровья людей, но оно тоже поднимает множество сложных медицинских и этических вопросов, которые угрожают затмить его потенциальные преимущества.
В октябре китайский исследователь объявил, что использовал CRISPR для создания человеческих младенцев, чье будущее потомство будет устойчивым к вирусу СПИДа. Это вызвало широкое осуждение со стороны мирового исследовательского сообщества — редактирование генов зародышей и имплантация эмбрионов в утробу матери человека являются незаконным во многих странах — но исследование стало напоминанием о том, что инструменты генетической модификации распознаются и могут понести за собой огромные риски.
9. Генетическое тестирование
По мере роста рынка ДНК-тестирования, который, как ожидается, к 2022 году разрастется до 310 млн долларов США, возросли и опасения по поводу тайного использования и злоупотребления генетическими данными. Многие потребители не понимают, что генетические данные, которые они представляют компаниям, проводящим тестированием ДНК, могут быть переданы множеству сторонних организаций, таких как, например, фармацевтические компании, что прописано лишь в глубоких недрах условий политики конфиденциальности, которые большинство людей, как правило читает очень невнимательно.
Компании же настаивают на том, что обмениваются анонимными данными только с согласия пользователей, нов се регулирующие данный аспект организации в этим согласны: в июне Fast Company сообщила. что Федеральная торговая комиссия расследует несколько компаний по тестированию ДНК — возможно, по вопросам конфиденциальности. Между тем, сайты ДНК — фирм даже являются лакомым куском для хакеров, что создает плачевную перспективу утечки, подобной Equifax (американское бюро кредитных историй, в сентябре 2017 года подвергшееся крупнейшему взлому, открывшему персональные данные 145,5 млн человек).
По мере того, как общественность и защитники частной жизни призывают к усилению контроля над сборами данных и правовой защитой, у самих технологических компаний появился проблеск надежды: с помощью протестов и писем работников все чаще привлекают своих работодателей к ответственности за злоупотребление личными данными и за опасность продуктов, которые они продают. Без строгих правил люди могут не уследить за жуткими технологиями, рискующими стать опасными.