CNCF спонсировал этот пост.
Что произойдет, когда 15 000 исследователей, использующих Jupyter Notebooks для геномных исследований, упрутся в стену между принципами открытой науки и федеральной политикой конфиденциальности?
Для Миг Доэрти, разработчика программного обеспечения и научного сотрудника по биоэтике, это была не просто техническая проблема — это была этическая проблема, замаскированная под политический вызов.
В этом эпизоде «В дороге» The New Stack Makers Доэрти встретилась с главным редактором TNS Хизер Джослин на JupyterCon в Сан-Диего, чтобы обсудить ее работу по запуску исследовательской рабочей среды Национального института здравоохранения для всех нас и почему принятие этических решений в области технологий не должно напоминать хождение по минному полю.
Когда организационные ценности — это просто плакаты в коридоре
«Когда что-то начинает разваливаться или принимаются решения, и команды приходят в замешательство, это часто происходит потому, что может возникнуть проблема с определением», — сказал Доэрти. Это происходит, продолжила она, потому что у многих организаций есть заявления о миссии, которые существуют только как плакаты в коридоре: амбициозные, но не связанные с реальным принятием решений.
В НИЗ Доэрти и ее команда столкнулись с конкретным примером: Jupyter был создан для совместного использования и использования открытой науки, но они настроили его в безопасной среде, ограниченной федеральной политикой. Обмен был технически возможен, но соблюдение политики означало, что они не могли делиться публично, в первую очередь из соображений конфиденциальности пациентов.
«Мы хотим делиться «широко и мудро», — сказала Доэрти, цитируя своего бывшего босса. Чтобы добиться этого, нужно было собрать вместе заинтересованных лиц, занимающихся политикой, и технологов, чтобы изучить, что должно быть правдой для того, чтобы обмен информацией состоялся, — создать внутренний импульс для идеи, которая служила бы как ценностям открытой науки, так и защите пациентов.
3 вопроса для упрощения этических решений
Опираясь на свою стипендию по биоэтике в Гарвардской медицинской школе, Доэрти представила обманчиво простую структуру из трех вопросов для принятия этических решений:
Этот третий вопрос имеет наибольшее значение. «Работая в этих новых, развивающихся областях, не менее важно сделать паузу и спросить, где это может пойти не так?» сказала она. «Это не значит, что вам нужно остановиться, но я хочу призвать людей делать это с открытыми глазами и открытым пониманием того, что может пойти не так, а затем бороться с этим».
Это этический эквивалент Agile pre-mortem, и он работает, потому что снижает накал разговоров, которые могут показаться ошеломляющими. «Говорить об этике и ценностях может показаться беспорядочным», — отметил Доэрти. «Люди слышат об этике и думают: «Хорошо, она звучит как [the] юридический [department]я с ней не разговариваю».
Почему «открытость» не всегда хорошо
Возможно, самым провокационным для основного докладчика на конференции, посвященной технологиям с открытым исходным кодом, было то, что Доэрти бросил вызов предположению, что открытость по своей сути хороша. «Открытые данные могут означать извлеченные данные», — сказала она. «Открытая наука может показаться экстрактивной».
Когда данные попадают в чужие руки или подвергаются чрезмерному раскрытию, основной урон могут понести доноры данных, которые часто представляют маргинализированные сообщества. Чтобы противостоять этому, она предлагает замкнутые циклы обратной связи, при которых доноры данных видят ощутимые выгоды, например, участники клинических испытаний получают бесплатный доступ к лекарствам, разработанным на основе их вклада.
После работы в НИЗ Доэрти запускает новую творческую студию под названием «Оба и ни один», чтобы донести эти концепции до инженеров-исследователей-программистов и за их пределами, чтобы продемонстрировать, что этика не обязательно должна быть одной из сложных частей в создании технологий.
Посмотрите весь выпуск, чтобы узнать больше о разработке систем, инклюзивных для людей, которых нет в зале, и о том, почему у технологов уже есть этика (даже если они этого не осознают).
Фонд Cloud Native Computing Foundation (CNCF) размещает критически важные компоненты глобальной технологической инфраструктуры, включая Kubernetes, Prometheus и Envoy. CNCF — это нейтральная площадка для сотрудничества, объединяющая ведущих разработчиков отрасли, конечных пользователей и поставщиков. Узнайте больше Последние новости от CNCF TRENDING STORIES YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одной серии. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. Мишель Гиноу — бывшая журналистка, ставшая разработчиком программного обеспечения. Она использует обе профессии, чтобы писать на глубокие технические темы, от K8 до Kotlin. Мишель является соавтором книги «Облачная трансформация: практические модели инноваций» от O’Reilly Media и… Читать далее от Мишель Гиноу
