Содержание

Образец положения о подотчетных лицах в 2021 году

Общество с ограниченной ответственностью «ПИОН»

УТВЕРЖДЕНО

директором ООО «ПИОН»

Вороновым А.В.

от «24» апреля 2020 г.

ПОЛОЖЕНИЕ

о расчетах с подотчетными лицами

1. Общие положения

1.1. Настоящее Положение разработано в соответствии с действующим законодательством Российской Федерации с целью обеспечить правильность учета, достоверность информации и контроль при расчетах с подотчетными лицами ООО «ПИОН».

1.2. Основными нормативными правовыми актами, регламентирующими порядок расчетов с подотчетными лицами, на основании которых разработан данный документ, являются:

  • указание ЦБ РФ №3210-У от 11.03.2014 (ред. от 19.06.2017) «О порядке ведения кассовых операций юридическими лицами и упрощенном порядке ведения кассовых операций индивидуальными предпринимателями и субъектами малого предпринимательства»;

  • приказ Минфина РФ №94н от 31. 10.2000 «Об утверждении Плана бухгалтерских счетов»;

  • федеральный закон от 06.12.2011 «О бухгалтерском учете»;

  • Трудовой кодекс Российской Федерации.

1.3. Денежные средства, выдаваемые работникам ООО «ПИОН» на административно-хозяйственные, представительские, командировочные расходы, а также расходы, связанные с непосредственной деятельностью организации, называются подотчетными суммами.

1.4. Работники, получающие подотчетные суммы, являются подотчетными лицами.

2. Порядок выдачи денежных средств под отчет

2.1. Выдача денежных средств под отчет на нужды организации производится работникам, фамилии которых приведены в списке лиц, имеющих право получать подотчетные суммы, утвержденном приказом руководителя №1 от «23» марта 2020 г.

2.2. Подотчетные суммы на командировочные расходы имеют право получать все работники компании, с которыми у ООО «ПИОН» заключены трудовые отношения, на основании приказа директора, который издается отдельно в каждом конкретном случае.

2.3. Согласно указанию ЦБ РФ №4416-У от 19.06.2017 , работник ООО «ПИОН» может получить наличные деньги под отчет также при наличии задолженности за полученный ранее аванс, по которому наступил срок предоставления авансового отчета.

2.4. Авансы под отчет могут быть выданы:

  • наличными в кассе предприятия;
  • безналичным путем на корпоративную банковскую карту предприятия;
  • безналичным путем на зарплатную банковскую карту сотрудника.

2.4. Выдача подотчетных сумм происходит на основании приказа директора ООО «ПИОН» или заявления работника, в котором должны быть указаны следующие сведения:

  • Ф.И.О. подотчетного сотрудника;
  • назначение аванса;
  • сумма с ее обоснованием (расчетом) — расчет суммы готовит бухгалтерия и передает директору для ознакомления;
  • срок, на который выдается аванс;
  • порядок выдачи денег под отчет — безналичным путем либо получение в кассе.

Директор ООО «ПИОН» в срок не позднее 2 рабочих дней подтверждает свое согласие (или несогласие) на выдачу денег соответствующей записью на заявлении и подписью с указанием даты.

С приказом директора ООО «ПИОН» работник знакомится под роспись.

После издания директором приказа о выдаче подотчетных сумм работник получает аванс на хозяйственные расходы в течение 2 рабочих дней в кассе по расходному кассовому ордеру. При этом он предъявляет документ, удостоверяющий личность.

2.5. Максимальная сумма денежных средств под отчет на определенные виды расходов установлена приказом директора №1 от«23» марта 2020 г. Подотчет, превышающий установленный лимит, утверждается отдельным приказом.

2.6. Предельный срок выдачи подотчетных сумм составляет 30 календарных дней.

2.7. Выдача денежных средств оформляется с указанием цели, на которую сотрудник имеет права тратить деньги. На иные цели расходование подотчетных сумм не допускается.

2.8. Передача денежных средств, полученных под отчет, другим лицам не разрешается.

2.9. Если у работника есть потребность в дополнительном авансировании, он должен сообщить об этом руководителю. Для этого работник пишет новое заявление с указанием причин увеличения аванса.

2.10. Порядок расчета и выдачи аванса на командировочные расходы происходит согласно положению «О служебных командировках работников ООО «ПИОН» утвержденному приказом №34 от «23» марта 2020 г.

2.10. Если сотрудник находится в командировке, сообщить об увеличении аванса он должен по электронной почте или по телефону. После чего руководитель принимает решение о выделении (или невыделении) дополнительных средств для оплаты расходов и издает приказ об этом. Дополнительные средства перечисляются на зарплатную карту сотрудника.

2.11. Если работник в случае производственной необходимости и с устного согласия руководителя произвел оплату за счет собственных средств, возмещение производится по авансовому отчету работника, утвержденному директором в течение 3 дней.

2.12. Порядок выдачи и расходование подотчетных сумм на представительские расходы производится в соответствии с положением «О расходовании денежных средств на представительские расходы», утвержденным приказом директора №34 от от «22» марта 2020 г.

3. Порядок предоставления, проверки и утверждения авансовых отчетов

3.1. Работник организации, получивший аванс на расходы в интересах предприятия, отчитывается о потраченных суммах в течение 3 дней после окончания срока, на который были выданы подотчетные суммы, или не позднее 3 дней со дня приезда из командировки, предоставив в бухгалтерию авансовый отчет с приложенными к нему документами, подтверждающими факт расхода.

3.2. Форма авансового отчета утверждена приказом директора №33 от «22» марта 2020 г.

3.3. Работник производит оплату за товары и услуги от имени ООО «ПИОН» на основании доверенности, полученной в бухгалтерии организации.

3. 4. Подотчетное лицо должно предоставить вместе с отчетом документы о произведенной оплате и о факте получения материальной ценности или услуги, то есть, кроме кассового чека и квитанции к приходному ордеру должны быть получены:

  • в розничном магазине — товарный чек;
  • в оптовой организации — квитанцию к приходному кассовому ордеру, накладную и счет-фактуру;
  • при расчетах за работы и услуги — квитанцию к приходному кассовому ордеру и счет-фактуру, а также договор и акт приемки (или заказ-наряд).

3.5. Первичные документы должны содержать все необходимые реквизиты, предусмотренные законодательством, то есть:

  • наименование документа;
  • дату составления документа;
  • наименование организации, составившей документ;
  • содержание хозяйственной операции;
  • величину измерения в натуральных и денежных единицах;
  • наименование должностей ответственных лиц и их подписи.

3.6. Ответственность за достоверность данных, содержащихся в первичных документах, несут лица, составившие и подписавшие эти документы.

3.7. Полученный авансовый отчет проверяется бухгалтером по содержанию, по цели использования, по итоговой сумме в течение 3 дней, затем подписывается главным бухгалтером в течение 2 дней и утверждается директором за 2 дня.

3.8. После утверждения авансовый отчет принимается к исполнению: перерасход по подотчетным суммам выдается подотчетному лицу в течение 3 дней, остаток вносится работником в течение 5 дней.

3.9. Если задолженность по подотчетным суммам вовремя не возвращается на предприятие, то в течение месяца принимается решение руководства об удержании долга из заработной платы работника и издается приказ.

3.10. В случае, когда подотчетные средства не были потрачены на указанные цели, работник в течение 3 дней после окончания срока аванса обязан вернуть полученный подотчет в полной сумме в кассу предприятия.

3.11. Аналитический учет подотчетных сумм ведется в разрезе подотчетных лиц с указанием фамилии, инициалов, сумм выдачи, произведенного расхода, возврата остатка или получения перерасхода.

3.12. Затраты, произведенные не по назначению, могут быть возмещены, по решению руководства, из чистой прибыли с оплатой всех необходимых налогов.

Директор ООО «ПИОН» ____________________/Воронов А.В.

Образец положения о подотчетных лицах 2021

Зачем необходимо

С 19.08.2017 изменился порядок выдачи денежных средств под отчет. Поправки внесены в Указание от 11.03.2014 N 3210-У, которое регламентирует правила ведения кассовых операций и выдачи денег. Руководитель бюджетной организации по-прежнему обязан создать и утвердить правила расчетов с подотчетными лицами. Для этого необходимо создать единый документ, в котором будут прописаны все тонкости и нюансы работы с подотчетниками – положение.

Требования к содержанию

Нормативная документация по бюджетному учету не содержит требования о составлении такого документа. Но практика доказывает, что лучше это сделать, поскольку он позволяет упорядочить все взаиморасчеты с подотчетниками.

При составлении следует пользоваться нормативной базой:

  • Указом ЦБ РФ «О порядке ведения кассовых операций» от 11.03.2014 № 3210-У;
  • Законом «О бухгалтерском учете» от 06.12.2011 № 402-ФЗ;
  • Приказом Минфина РФ «Об утверждении Плана бухгалтерских счетов» от 31.10.2000 № 94н;
  • Трудовым кодексом РФ.

Также важно учитывать нормы Положения об организации наличного денежного обращения на территории РФ (от 05.01.1998 N 14-П).

Документ обязан содержать:

  1. Цели, на которые выдаются суммы под отчет. Организация вправе выдавать денежные средства под отчет либо на хозяйственно-операционные расходы, либо на расходы, связанные со служебными командировками.
  2. Список сотрудников, которые вправе получать денежные средства под отчет. Наличные на оплату хозяйственных расходов выдаются не всем работникам учреждения, а только тем, кто включен в Приказ о подотчетниках.
  3. Условия и сроки расчетов с сотрудниками. Если сотрудник добровольно не погашает задолженность, то организация вправе удержать нужную сумму из его заработной платы.
  4. Подотчетные суммы в безналичном порядке. В положении о расчетах с подотчетниками прописывают, что организация выдает деньги как наличными, так и на банковскую карту.
  5. Отчет по израсходованным суммам и окончательный расчет.

Скачать образец положения о подотчетных лицах

Как утвердить

Это не обязательный документ, но он снимет большое количество вопросов со стороны бухгалтерии и подотчетников. Его оформляют приложением к учетной политике.Создает и утверждает его руководитель бюджетной организации.

Сотрудники знакомятся с ним и ставят подпись.

Утверждается документ с помощью приказа.

Скачать образец положения о расчетах с подотчетными лицами

Об авторе статьи

Михайлова Екатерина

Другие статьи автора на gosuchetnik.ru

Россети Урал – ОАО «МРСК Урала»

Согласие на обработку персональных данных

В соответствии с требованиями Федерального Закона от 27.07.2006 №152-ФЗ «О персональных данных» принимаю решение о предоставлении моих персональных данных и даю согласие на их обработку свободно, своей волей и в своем интересе.

Наименование и адрес оператора, получающего согласие субъекта на обработку его персональных данных:

ОАО «МРСК Урала», 620026, г. Екатеринбург, ул. Мамина-Сибиряка, 140 Телефон: 8-800-2200-220.

Цель обработки персональных данных:

Обеспечение выполнения уставной деятельности «МРСК Урала».

Перечень персональных данных, на обработку которых дается согласие субъекта персональных данных:

  • — фамилия, имя, отчество;
  • — место работы и должность;
  • — электронная почта;
  • — адрес;
  • — номер контактного телефона.

Перечень действий с персональными данными, на совершение которых дается согласие:

Любое действие (операция) или совокупность действий (операций) с персональными данными, включая сбор, запись, систематизацию, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передачу, обезличивание, блокирование, удаление, уничтожение.

Персональные данные в ОАО «МРСК Урала» могут обрабатываться как на бумажных носителях, так и в электронном виде только в информационной системе персональных данных ОАО «МРСК Урала» согласно требованиям Положения о порядке обработки персональных данных контрагентов в ОАО «МРСК Урала», с которым я ознакомлен(а).

Согласие на обработку персональных данных вступает в силу со дня передачи мною в ОАО «МРСК Урала» моих персональных данных.

Согласие на обработку персональных данных может быть отозвано мной в письменной форме. В случае отзыва согласия на обработку персональных данных.

ОАО «МРСК Урала» вправе продолжить обработку персональных данных при наличии оснований, предусмотренных в п. 2-11 ч. 1 ст. 6 Федерального Закона от 27.07.2006 №152-ФЗ «О персональных данных».

Срок хранения моих персональных данных – 5 лет.

В случае отсутствия согласия субъекта персональных данных на обработку и хранение своих персональных данных ОАО «МРСК Урала» не имеет возможности принятия к рассмотрению заявлений (заявок).

В новостях | КМС

Узнайте последние новости о программе общих сбережений и связанных с ней инициативах.

2022, 2021, 2020, 2019, 2018, 2017, 2016, 2015, 2014, 2013, 2012, 2011,

26 января 2022 г.

Новые ACO присоединяются к программе общих сбережений

26 января 2022 г. Центры услуг Medicare и Medicaid (CMS) опубликовали данные об участии Accountable Care Organization (ACO) за 2022 финансовый год.

Вы можете найти полный список ACO Shared Savings Program, включая их участников ACO и филиалы Skilled Nursing Facility (SNF) на целевой странице Medicare Shared Savings Program на сайте Data.CMS.gov.

2 ноября 2021 г.

 2 ноября 2021 года компания CMS выпустила окончательное правило, озаглавленное «Политика оплаты на 2022 год» в соответствии с таблицей оплаты труда врачей и другими изменениями в политике оплаты части B; Требования программы общих сбережений Medicare; Обновления правил регистрации поставщиков услуг; и Требования Поставщика и Поставщика к предварительной оплате и последующему медицинскому осмотру (в настоящем документе Окончательное правило Графика оплаты медицинских услуг (PFS) 2022 Календарного года (CY)).Окончательное правило PFS 2022 CY включало обновленную информацию об изменениях политики в отношении платежей Medicare в рамках PFS и других вопросах Medicare Part B. Окончательная политика по внесению поправок в Совместную сберегательную программу обсуждается в разделе III.J. Окончательного правила PFS 2022 CY и включают следующее:

  • Более длительный переходный период для ACO, сообщающих об электронных показателях клинического качества/показателях клинического качества Системы поощрения на основе заслуг (eCQM/MIPS CQM) в соответствии с Альтернативной моделью оплаты (APM) Performance Pathway (APP), за счет расширения доступности CMS Тип коллекции веб-интерфейса на три дополнительных года до 2024 года работы (PY).
  • Отсрочка повышения стандарта качества деятельности ACO должны соответствовать, чтобы иметь право участвовать в экономии до 2024 финансового года, путем сохранения 30-го процентиля оценки категории качества MIPS для 2023 финансового года и дополнительных изменений стандарта качества деятельности для поощрения ACO сообщать о мерах, принимаемых всеми плательщиками.
  • Обновления определения услуг первичной медико-санитарной помощи, которые используются для целей назначения бенефициара.
  • Внесены изменения в методологию расчета сумм механизма погашения для ACO, основанных на оценке риска, чтобы уменьшить процентную долю, используемую в существующей сумме, на 50 процентов.CMS завершила внесение изменений в пороговое значение для определения того, требуется ли ACO увеличивать сумму своего механизма погашения в течение периода действия соглашения. CMS также указала, как мы идентифицируем присвоенные номера бенефициаров, используемых в расчетах суммы механизма погашения.
  • Предоставление единовременной возможности для некоторых ACO, которые установили механизм погашения для поддержки своего участия в двусторонней модели, начиная с 1 июля 2019 года; 1 января 2020 г .; или 1 января 2021 г.; принять решение об уменьшении суммы существующих механизмов погашения.
  • Снижение нагрузки на процесс подачи заявки на участие в Программе совместных сбережений за счет изменения требования о раскрытии информации о предварительном участии и сокращения частоты и обстоятельств, при которых ACO представляют образцы и оформленные соглашения об участии ACO в CMS.
  • Изменения требования об уведомлении бенефициара, поскольку оно применяется к ACO, находящимся в процессе предполагаемой уступки.

Чтобы узнать больше, см.: 

25 августа 2021 г.

Финансовые результаты и показатели качества за 2020 год

CMS опубликовала финансовые результаты и показатели качества за 2020 финансовый год за период эффективности, начинающийся 1 января 2020 г. и заканчивающийся 31 декабря 2020 г.:

Чтобы просмотреть полные результаты производительности, см. Файл общедоступного использования финансовых и качественных результатов за год производительности (PUF) в Data.CMS.gov.

2 августа 2021 г.

2 августа 2021 г. CMS выпустила окончательные правила для 2022 финансового года (FY) 2022 Система предполагаемых платежей для больниц Medicare (IPPS) и Система перспективных платежей (PPS) для больниц долгосрочного ухода (LTCH), которые включают политики, разрешающие участие соответствующих ACO в глиссаде БАЗОВОЙ дорожки возможность отказаться от автоматического продвижения по глиссаде с возрастающими уровнями риска и потенциального вознаграждения за 2022 КГ.

Чтобы узнать больше, см.:

13 июля 2021 г.

13 июля 2021 года CMS выпустила предлагаемое правило под названием Программа Medicare: политика оплаты на 2022 год в соответствии с прейскурантом для врачей и другие изменения в политике оплаты части B; Требования программы общих сбережений Medicare; Обновления правил регистрации поставщиков услуг; Предоплата и постоплата Поставщиком медицинских услуг Требования (здесь CY 2022 PFS). Это предлагаемое правило объявляет о предлагаемых изменениях политики выплат Medicare в рамках PFS и собирает комментарии общественности 1 января 2022 года или позднее.

Предлагаемое правило PFS 2022 CY включает предложения для Программы общих сбережений Medicare (Программа общих сбережений) и QPP. CMS рекомендует ACO рассмотреть предлагаемое правило и представить свои комментарии. Публичные комментарии по предлагаемому правилу должны быть представлены не позднее 17:00. Восточное время – 13 сентября 2021 года 90 010 . Официальные комментарии должны быть отправлены одним из следующих способов: в электронном виде через веб-сайт регламентов.

В рамках предлагаемого правила PFS 2022 CY предложения по изменению политик Программы общих сбережений обсуждаются, в основном, в разделе III.J и включают следующее:

  • Более длительный переход для ACO, сообщающих о eCQM/MIPS CQM в рамках APP, за счет продления доступности типа коллекции веб-интерфейса CMS еще на два года до 2023 финансового года.
  • Дополнительное замораживание на один год перед поэтапным введением повышения стандарта качества ACO должны выполнить, чтобы разделить экономию, и дополнительный пересмотр стандарта качества, чтобы побудить ACO сообщать о CQM eCQM / MIPS CQM для всех плательщиков.
  • Изменения в определении услуг первичной медико-санитарной помощи, которые используются для целей назначения бенефициаров.CMS также хочет прокомментировать, считают ли заинтересованные стороны, что другие кодексы должны быть включены в это определение для информирования будущего нормотворчества.
  • Внесены изменения в методологию расчета сумм механизма погашения для ACO, основанных на оценке риска, чтобы уменьшить процентную долю, используемую в существующей сумме, на 50 процентов. CMS также предлагает изменить пороговое значение для определения того, требуется ли ACO увеличить сумму своего механизма погашения в течение периода действия соглашения, и разрешить разовую возможность для определенных ACO, которые установили механизм погашения, для поддержки их участия в двустороннем модель с 1 июля 2019 г .; 1 января 2020 г .; или 1 января 2021 г.; принять решение об уменьшении суммы существующих механизмов погашения.
  • Снижение нагрузки и оптимизация процесса подачи заявки на участие в Программе совместных сбережений путем изменения требования о раскрытии информации о предварительном участии, чтобы раскрытие информации требовалось только по запросу CMS в процессе подачи заявки, а также сокращения частоты и обстоятельств, при которых ACO представляют образцы соглашений об участии ACO. и заключили соглашения участников ACO с CMS.
  • Изменения требования об уведомлении бенефициара, поскольку оно применяется к ACO, находящимся в процессе предполагаемой уступки.

CMS также запрашивает комментарии заинтересованных сторон по некоторым аспектам методологии сравнительного анализа Программы совместных сбережений, в частности, по расчету региональных расходов на оплату услуг (FFS), используемых при определении региональной корректировки, и смешанных национальных и региональных темпов роста для определения тенденций и обновление эталонного показателя, а также методологии корректировки рисков, которые могут быть использованы при разработке правил в будущем.

Чтобы узнать больше, см.: 

27 апреля 2021 г.

Финансовый год (FY) 2022 Система предполагаемых платежей для больниц Medicare (IPPS) и больница долгосрочного ухода (LTCH) Предлагаемое правило предлагает разрешить ACO «заморозить» участие в программе BASIC Track Glide Path на 2022 PY

27 апреля 2021 г. CMS выпустила предлагаемое правило под названием «Предлагаемое правило о тарифах для стационарных медицинских учреждений Medicare на 2022 финансовый год (FY) (IPPS) и больниц длительного ухода (LTCH) (CMS-1752-P), ”, который включает в себя предложение разрешить соответствующим ACO, участвующим в варианте «академической дорожки» BASIC, отказаться от автоматического продвижения по путям повышения уровня риска и потенциального вознаграждения за 2022 КГ.

Чтобы узнать больше, см.:

1 декабря 2020 г.

Окончательная политика, положения об оплате и качестве Изменения в таблице оплаты медицинских услуг Medicare на 2021 календарный год

1 декабря 2020 г. CMS выпустила окончательное правило Medicare PFS, которое включает нормативные изменения в Программу общих сбережений. Краткое изложение этих изменений выглядит следующим образом:

CMS завершена с изменениями, предлагаемыми нами изменениями требований к отчетности по качеству в рамках программы Shared Savings и стандартом качества для показателей эффективности за годы, начинающиеся 1 января 2021 года, чтобы привести их в соответствие со схемой значимых показателей, снизить нагрузку на отчетность и сосредоточиться на результатах пациентов.

На 2020 финансовый год CMS завершила предложение об отмене требования к ACO проводить оценку поставщиков медицинских услуг и систем для потребителей (CAHPS ® ) для опросов ACO об опыте пациентов в отношении ухода, и ACO будут автоматически получать полную оценку опыта пациента. мер по уходу. Для получения дополнительной информации см. ZIP-файл с окончательными правилами QPP 2021.

В ответ на новые правила кодекса телездравоохранения и для обновления определения услуг первичной медико-санитарной помощи, чтобы отразить услуги при когнитивных нарушениях и лечении хронических заболеваний, CMS завершила включение новой оценки, управления и управления уходом. Текущая процедурная терминология (CPT) и Healthcare Common Коды Системы кодирования процедур (HCPCS), включая новые коды телемедицины, в методологии, используемой для назначения бенефициаров ACO.CMS также завершает работу над предложением об исключении дополнительных кодов при доставке в учреждения квалифицированного сестринского ухода и стационарные учреждения; кодифицировать политику корректировки исторического эталона ACO, чтобы отразить любые нормативные изменения в методологии назначения бенефициаров; и более низкие требуемые суммы механизма погашения для некоторых продлевающих и повторно вступающих в ACO.

В ответ на комментарии общественности CMS пересмотрела правила, определяющие корректировку расчетов программы для эпизодов лечения коронавирусной болезни 2019 (COVID-19), чтобы обеспечить большую согласованность в политиках, используемых для определения стационарных услуг, предоставляемых IPPS и не – Поставщики IPPS, которые инициируют эпизод лечения COVID-19.Кроме того, CMS завершает разработку правил, определяющих расширенное определение услуг первичной медико-санитарной помощи для целей определения назначения бенефициаров, и дополнительные коды услуг первичной медицинской помощи будут применяться ко всем месяцам окна назначения (как определено в § 425.20), когда окно назначения включает в любом месяце(ах) чрезвычайной ситуации в области общественного здравоохранения (PHE) в связи с COVID-19. Для получения дополнительной информации см.:

14 сентября 2020 г.

Финансовые результаты и показатели качества за 2019 год

CMS опубликовала финансовые результаты и показатели качества за 2019 и 2019 КГ. PY 2019 включает отчетные периоды, начинающиеся 1 января 2019 г. и заканчивающиеся 30 июня 2019 г., а также рабочие периоды, начинающиеся 1 января 2019 г. и заканчивающиеся 31 декабря 2019 г. PY 2019A относится к результативным периодам, начинающимся 1 июля 2019 г. и заканчивающийся 31 декабря 2019 г.

Блог по вопросам здравоохранения: Программа совместных сбережений Medicare, 2019 г. Эффективность ACO: снижение затрат и многообещающие результаты в разделе «Пути к успеху»

Чтобы просмотреть полные результаты производительности, см. PUF «Финансовые и качественные результаты за год производительности» в разделе «Данные».CMS.gov.

4 августа 2020 г.

Политика, условия оплаты и качества Изменения в таблице оплаты услуг врачей Medicare на 2021 календарный год

CMS предлагает внести изменения в стандарт качества работы программы Shared Savings Program и требования к отчетности по качеству для результативных лет, начинающихся 1 января 2021 года, чтобы привести их в соответствие с значимыми показателями, снизить нагрузку на отчетность и сосредоточиться на результатах пациентов. В 2020 году финансового года CMS предлагает автоматически предоставлять полный кредит для опросов пациентов CAHPS об опыте лечения.CMS также ищет комментарии относительно альтернативного подхода к методологии оценки в экстремальных и неконтролируемых обстоятельствах для 2020 КГ. Для получения дополнительной информации см. Информационный бюллетень с обзором предлагаемых правил Программы оплаты качества на 2021 год.

В ответ на новые предложения по кодексу телездравоохранения и для обновления определения услуг первичной медико-санитарной помощи, чтобы отразить услуги при когнитивных нарушениях и лечении хронических заболеваний, CMS предлагает включить новые коды CPT и HCPCS для оценки, управления и лечения в методологию, используемую для присвоения бенефициарами АКО.Кроме того, CMS предлагает исключить определенные услуги, предоставляемые в учреждениях квалифицированного сестринского ухода, из методологии назначения, когда они предоставляются врачами в федеральных квалифицированных медицинских центрах (FQHC) и сельских поликлиниках (RHC), а также изменить определение услуг первичной медико-санитарной помощи, чтобы исключить заблаговременное планирование лечения, код CPT 99497 и дополнительный код 99498 при выставлении счета в условиях стационарного лечения. CMS также кодифицирует в правилах свою политику корректировки исторического эталона ACO, чтобы отразить любые нормативные изменения в методологии назначения бенефициаров.

В рамках наших усилий по снижению бремени, связанного с механизмами погашения, CMS предлагает установить политику, которая позволит продлевать ACO, которые хотят продолжать использовать свой существующий механизм погашения, чтобы уменьшить сумму своего механизма погашения, если более высокая сумма не требуется для поддерживать их новый период соглашения. Этот предлагаемый подход включает в себя пересмотренную методологию расчета сумм механизма погашения, начиная с цикла подачи заявок на период действия соглашения, начинающийся 1 января 2022 года, и в последующие годы, а также единовременную возможность для правомочных ACO, которые продлили свои периоды действия соглашения. начиная с 1 июля 2019 г. или 1 января 2020 г., принять решение об уменьшении суммы своих механизмов погашения.Для получения дополнительной информации см. :

30 апреля 2020 г.

Промежуточное окончательное правило с опубликованным комментарием, объявляющее о дополнительных изменениях политики и нормативных актов в ответ на чрезвычайную ситуацию в области общественного здравоохранения COVID-19

30 апреля 2020 г. CMS внесла изменения в Программу совместных сбережений, чтобы повысить финансовую стабильность и предсказуемость 517 ACO, обслуживающих более 11 миллионов бенефициаров, во время пандемии COVID-19.

Поскольку последствия пандемии различаются по стране, CMS вносит коррективы в финансовую методологию для учета затрат на COVID-19, чтобы к ACO относились справедливо независимо от степени, в которой пандемия затронула их группы пациентов.CMS также отказывается от ежегодного цикла подачи заявок на 2021 год и предоставляет ACO, участие которых должно закончиться в этом году, возможность продлить его еще на один год. ACO, которые должны увеличить свой финансовый риск в течение текущего периода действия соглашения в программе, будут иметь возможность сохранить свой текущий уровень риска на следующий год, вместо того, чтобы автоматически переходить на следующий уровень риска.

ACO и участвующие в них поставщики медицинских услуг используют телемедицинские визиты, чтобы продолжать координировать и предоставлять высококачественную помощь назначенным им бенефициарам.Следовательно, для 2020 финансового года и любого последующего финансового года, который начинается во время PHE, CMS включает дополнительные коды в определение услуг первичной медико-санитарной помощи, используемых при определении назначения бенефициаров в рамках Программы общих сбережений, чтобы CMS могла надлежащим образом назначать бенефициаров ACO на основе удаленно предоставляемых услуг. услуги первичной медико-санитарной помощи.

Для получения дополнительной информации см.: 

10 января 2020 г.

Новые ACO присоединяются к программе общих сбережений 

10 января 2020 г. CMS опубликовала данные об участии ACO за 2020 КГ.

Блог по вопросам здравоохранения: количество ACO, которые рискуют убытками, удваивается в соответствии с «Путьями к успеху»

Здесь вы можете найти полный список ACO программы Shared Savings, включая их участников ACO и квалифицированных медсестер.

Новые ACO присоединяются к программе общих сбережений

17 июля 2019 г. CMS опубликовала данные об участии ACO на дату начала 1 июля 2019 г. Мы одобрили в общей сложности 206 заявок ACO на эту дату начала, что увеличило общее количество получателей услуг Medicare с оплатой за услуги, которые получают помощь от поставщиков медицинских услуг в ACO, с 10.от 5 до 10,9 млн.

Здесь вы можете найти полный список ACO программы Shared Savings, включая их участников ACO и аффилированных лиц SNF по состоянию на 1 июля 2019 года.

Окончательное правило программы общих сбережений

31 декабря 2018 г. CMS опубликовала окончательное правило, определяющее новое направление программы общих сбережений. Последнее правило, получившее название «Пути к успеху», оптимизирует и перерабатывает варианты участия, доступные в рамках Программы совместных сбережений, чтобы побудить АСО к более постепенному и поэтапному переходу к риску, основанному на результатах, для увеличения сбережений в трастовых фондах. Политики также включают изменения, касающиеся дополнительных инструментов и гибких возможностей для ACO, установленных Законом о двухпартийном бюджете 2018 года, особенно в области новых стимулов для бенефициаров, услуг телемедицины и выбора методологии назначения бенефициаров.

Для получения дополнительной информации см. Окончательное правило Федерального реестра от декабря 2018 г.

Окончательное правило

Графика оплаты услуг врача

Окончательное правило PFS, опубликованное в ноябре 2018 г., касается подгруппы изменений в Программе общих сбережений для ACO, предложенных в предложенном в августе 2018 г. правиле «Программа Medicare; Программа общих сбережений Medicare; Пути к успеху подотчетных медицинских организаций», а также различные другие поправки, предназначенные для обновления программных политик в рамках программы общих сбережений.Чтобы обеспечить непрерывность участия, завершить срочные изменения программной политики для участвующих в настоящее время ACO и упорядочить набор основных показателей качества ACO для снижения нагрузки и поощрения лучших результатов, CMS завершает работу над следующими политиками:

  • Добровольное продление на 6 месяцев для существующих ACO, срок действия соглашений об участии которых истекает 31 декабря 2018 г. , и методология определения финансовых и качественных показателей для этого 6-месячного результативного года с 1 января 2019 г. по 30 июня 2019 г.
  • Сокращение основного показателя качества программы общих сбережений, установленного на восемь показателей; и продвижение функциональной совместимости между поставщиками и поставщиками ACO путем добавления нового порогового критерия Сертифицированной технологии EHR (CEHRT) для определения права ACO на участие в программе и отмены текущего показателя качества программы Shared Savings для процентной доли квалифицированных врачей, использующих CEHRT.
  • Разрешение бенефициарам, которые добровольно присоединяются к практикующей медсестре, помощнику врача, сертифицированной медсестре-специалисту или врачу со специализацией, не используемой в назначении, быть назначенными в ACO, если врач, с которым они присоединяются, участвует в ACO, как предусмотрено в Законе о двухпартийном бюджете 2018 г.
  • Предоставление помощи ACO и их врачам, пострадавшим от экстремальных и неконтролируемых обстоятельств в 2018 и последующих годах.
  • Пересмотр определения услуг первичной медико-санитарной помощи, используемого в назначении бенефициара.

Дополнительную информацию см. в разделе Подробная информация об Окончательных правилах PFS 2019 CY.

Совместная сберегательная программа Предлагаемое правило

CMS выпустила предлагаемое правило, которое задаст новое направление для программы совместных сбережений, установив пути к успеху путем изменения вариантов участия, доступных в рамках программы, чтобы побудить ACO перейти к двусторонним моделям (в которых они могут делиться сбережениями и несут ответственность за возмещение общих убытков).Эти предлагаемые политики предназначены для увеличения сбережений для трастовых фондов и смягчения потерь, сокращения игровых возможностей и продвижения гибкости регулирования и принципов свободного рынка. Предлагаемое правило также предоставит новые инструменты для поддержки координации помощи в разных условиях и усиления участия бенефициаров; обеспечить строгий бенчмаркинг; продвигать совместимую технологию электронных медицинских карт среди поставщиков/поставщиков ACO; и улучшить обмен информацией об употреблении опиоидов для борьбы с опиоидной зависимостью.

Для получения дополнительной информации см. Уведомление Федерального реестра о предлагаемом принятии правил (NPRM) за август 2018 года.

Новые ACO присоединяются к программе общих сбережений

CMS объявила, что 99 новых ACO и 79 продлевающих ACO были приняты для участия в седьмом цикле программы общих сбережений. По состоянию на 1 января 2017 года в Программе совместных сбережений участвуют 480 АСО.

Чтобы просмотреть полный список участвующих ACO, см. PUF Accountable Care Organizations на Data.CMS.gov

Для получения дополнительной информации о данных программы общих сбережений посетите веб-страницу данных программы.

Новая модель инновационного центра, начало 2018 г.

CMS анонсировала новую модель инновационного центра CMS, модель Medicare ACO Track 1+ (модель Track 1+), начиная с 2018 года, которая будет тестировать схему платежей, которая включает более ограниченный риск убытков, чем в настоящее время присутствует в Track 2 или 3 из Программа общих сбережений для поощрения перехода к риску, основанному на результатах, для ACO Track 1.

Финансовые результаты и показатели качества за 2015 год

CMS опубликовала финансовые результаты и показатели качества для 392 ACO с датами начала действия соглашений в 2012, 2013, 2014 и 2015 годах.

Чтобы просмотреть полные результаты производительности, см. PUF «Финансовые и качественные результаты за год производительности» на Data.CMS.gov.

Для получения дополнительной информации о данных программы общих сбережений посетите веб-страницу данных программы.

Новые ACO присоединяются к программе общих сбережений

CMS объявила, что 100 новых ACO и 147 продлевающих ACO были допущены к участию в шестом цикле программы общих сбережений.По состоянию на 1 января 2016 года в Программе совместных сбережений участвуют 434 АСО.

Чтобы просмотреть полный список участвующих ACO, см. PUF Accountable Care Organizations на Data.CMS.gov.

Для получения дополнительной информации о данных программы общих сбережений посетите веб-страницу данных программы.

Финансовые результаты и показатели качества за 2014 год

CMS опубликовала финансовые результаты и показатели качества для 333 ACO с датами начала действия соглашений в 2012, 2013 и 2014 годах.

Чтобы просмотреть результаты, см. PUF Финансовые и качественные результаты за год работы на сайте Data.CMS.gov.

Новые ACO присоединяются к программе общих сбережений

CMS объявила, что 89 новых ACO были приняты для участия в пятом цикле программы общих сбережений, которая начинается 1 января 2015 года.

Чтобы просмотреть полный список участвующих ACO, посетите PUF Accountable Care Organizations на Data.CMS.gov.

Опубликованы ОКОНЧАТЕЛЬНЫЕ финансовые результаты и показатели качества за 1 год

CMS опубликовала окончательные финансовые результаты и показатели качества для ACO с датами начала действия соглашений в 2012 и 2013 годах.

Чтобы просмотреть результаты, см. PUF «Финансовые и качественные результаты за год работы» на Data. CMS.gov.

Результаты оценки качества PY1

CMS объявила о результатах качества в PY1 для ACO с датами вступления в силу соглашений на 2012 и 2013 годы. Для PY1 CMS определила стандарт качества на уровне полной и точной отчетности по всем показателям качества. В 1 финансовом году 209 ACO соответствовали стандарту качества и имели право на участие в сбережениях, если они были заработаны.Показатели качества для сверки PY1 для ACO с датами начала 2012 года основаны на полной и точной отчетности по всем необходимым показателям качества для 2012 календарного года (CY 2012) и CY 2013. Показатели качества для сверки PY1 для ACO с датами начала 2013 основаны на полных и точные отчеты обо всех необходимых показателях качества за 2013 год. Результаты показателей качества, представленные в объявлении за 1 год, отражают показатели эффективности за 2013 год для 220 ACO. Также предоставляется средний показатель эффективности качества за 2013 г. по каждому показателю по всем ACO.

Объявлены ОКОНЧАТЕЛЬНЫЕ финансовые результаты и показатели качества за первый год

CMS объявила ОКОНЧАТЕЛЬНЫЕ финансовые результаты и показатели качества за первый год для ACO с датами вступления в силу соглашений на 2012 и 2013 годы. В течение первого года своей деятельности 53 ACO с датами начала работы в 2012 и 2013 годах добились экономии; PY1 – это 21- или 18-месячный период для ACO с датами начала в 2012 году и 12-месячный период для ACO с датами начала в 2013 году. ACO, которые генерировали сбережения, получали вознаграждение за результат, если они соответствовали стандарту качества.Один ACO Track 2 с общими убытками должен погасить CMS.

PY1 ПРОМЕЖУТОЧНЫЕ результаты финансовой сверки

CMS объявила промежуточные результаты финансовой сверки PY1 для ACO, начавших свою деятельность в апреле и июле 2012 г. 31 ACO, начавшие участвовать в Программе совместных сбережений в апреле или июле 2012 г., в течение первых 12 месяцев своего участия генерировали совместные сбережения или убытки. Позднее в этом году мы завершим ОКОНЧАТЕЛЬНУЮ сверку за первый год для всех ACO, которые были запущены в 2012 и 2013 годах. Следовательно, окончательные результаты деятельности ACO могут отличаться от их промежуточных результатов.ACO, получившие вознаграждение за результат, имели право на получение промежуточного платежа, поскольку они соответствовали стандарту качества, выбрали вариант промежуточного платежа в своем приложении и опубликовали требуемый механизм погашения. ACO Track 2 с общими убытками должен погасить CMS на основе промежуточной сверки PY1, если он выбрал вариант промежуточного платежа в своем приложении и опубликовал требуемый механизм погашения.

Новые ACO присоединяются к программе общих сбережений

CMS объявила, что 123 новых ACO были приняты для участия в четвертом цикле программы общих сбережений, которая начинается 1 января 2014 года.

Чтобы просмотреть полный список участвующих ACO, см. PUF Accountable Care Organizations на Data. CMS.gov.

Новые ACO присоединяются к программе общих сбережений

CMS объявила, что 106 новых ACO были приняты для участия в третьем цикле программы общих сбережений, которая началась 1 января 2013 года.

Чтобы просмотреть полный список участвующих ACO, обратитесь к PUF Accountable Care Organizations на Data.CMS.gov.

Новые ACO присоединяются к программе общих сбережений

CMS объявила, что 88 новых ACO были приняты для участия во втором цикле программы общих сбережений, которая началась 1 июля 2012 года.

Новые ACO присоединяются к программе общих сбережений

CMS объявила, что новые ACO были допущены к участию в первом цикле программы общих сбережений, которая началась 1 апреля 2012 года.

Окончательное правило программы общих сбережений

Новые поощрения поставщиков медицинских услуг за координацию медицинского обслуживания

Режимы индивидуальной подотчетности – стимулирование совершенствования культуры

Скачать публикацию

Серия брифингов, на которых кратко рассматриваются международные тенденции в различных юрисдикциях с привлечением экспертов-практиков Baker McKenzie в области финансовых услуг

Режимы индивидуальной подотчетности – стимулирование совершенствования культуры

В этом выпуске кратко рассматривается культура компаний, предоставляющих финансовые услуги, с точки зрения регулирующих органов Австралии, Гонконга, Сингапура и Великобритании — всех международных финансовых центров, стремящихся улучшить отраслевые стандарты. В нем сообщается о выбранном ими средстве защиты: введении усиленных режимов индивидуальной ответственности.

Как формировать культуру

В своем недавнем выступлении член руководящей группы Управления финансового надзора Великобритании ( FCA ) по страхованию Карин Мактиг заявила, что «культура является общепризнанной ключевой причиной основных нарушений поведения в сфере финансовых услуг в новейшей истории». Сравнивая положение банков с курируемыми ею страховщиками, по ее мнению, последние отставали от кривой поведения по отношению к банкам.Это произошло потому, что банки столкнулись не только с повышенным вниманием со стороны регулирующих органов после их близкого краха во время финансового кризиса и широкомасштабными принудительными мерами за неправомерные действия, но и с ранним внедрением в 2016 г. были «уточнены ответственность и подотчетность на уровне высшего руководства».

Так что же подразумевается под культурой? В своем итоговом отчете в январе 2019 года Королевская банковская комиссия Австралии ( ARBC ), заимствуя более ранние определения культуры, сослалась на «общие ценности и нормы, которые формируют поведение и образ мышления» внутри организации, но также, в более просторечии, на «то, что люди делают, когда никто не смотрит. В документе для обсуждения FCA, опубликованном в марте 2018 года, культура определяется аналогичным образом как «привычное поведение и образ мышления, которые характеризуют организацию». Следующий вопрос, который задают регулирующие органы и фирмы, заключается в том, как «измерить» культуру, или, точнее, существует ли правильная культура в сфере финансовых услуг? В предисловии к газете директор по надзору FCA Джонатан Дэвидсон сказал, что у фирм нет единой культуры, к которой они могли бы стремиться, но что «здоровые культуры обладают некоторыми специфическими характеристиками, которые снижают вред». По его мнению, регулирование должно привлекать к ответственности как отдельных лиц, так и фирму (т.е., нормативные санкции не должны быть просто затратами на ведение бизнеса), а старшие менеджеры должны четко сформулировать, за что они несут ответственность и свои основные обязанности.

В отчете ARBC обсуждается важность управления, которое определяется как «совокупность структур и процессов, с помощью которых управляется организация, и что, формируя способ ведения бизнеса, управление формирует культуру». Это может быть истолковано как относящееся к новой разновидности режимов индивидуальной ответственности для менеджеров (а в некоторых юрисдикциях для всех уровней персонала), которые вводятся (или расширяются) регулирующими органами – Великобританией в Европе и юрисдикциями общего права в Азии и Австралия.Например, среди рекомендаций ARBC были улучшения структур управления.

Вознаграждение – ключевой элемент

Председатель надзорного органа Европейского центрального банка Андреа Энриа в недавнем выступлении описала первоначальную реакцию банков на скандалы после финансового кризиса как возложение «ответственности на несколько «плохих парней» и дистанцирование себя от проблемы». Но когда скандалы продолжились, стало ясно, что «необходимы более глубокие изменения в культуре, организации и практике.Г-н Энриа считает, что настоящая трансформация банковской культуры должна исходить изнутри и что реальный прогресс находится за пределами прямой досягаемости органов надзора и регулирования. Однако он отмечает одну область, которая может оказать существенное влияние: вознаграждение. Максимальные бонусы вместе с положениями о штрафах и возврате средств потенциально могут оказать серьезное влияние на поведение — все это представляет собой ключевые элементы расширенных режимов индивидуальной ответственности.

В ходе расследования неправомерных действий в финансовом секторе ARBC определила ключевые темы, связанные с культурой и стимулами.В нем подробно рассматривалось, как вознаграждение влияет на культуру и отражает ее — будь то вознаграждение высшего руководства и неспособность внедрить достаточно надежные системы и средства контроля для предотвращения нанесения ущерба рынкам и клиентам, трейдерам, которые берут на себя неуместные риски, или привлеченному персоналу по продажам, взаимодействующему с клиентами. в неправильной продаже. Комиссия установила, что плохое вознаграждение и программы стимулирования в последние годы способствовали плохим результатам для клиентов и рынка. Вместо этого их структура должна поощрять рациональное управление нефинансовыми рисками.Системы поощрения также являются одним из трех столпов реформы банковской культуры Гонконга (обсуждается ниже), которые его банковский надзор считает основными причинами серьезных нарушений поведения. Великобритания и Европейский союз также признали эту связь, требуя от крупных финансовых компаний ввести в действие положения о неправомерных действиях и отказе от них.

Режимы индивидуальной ответственности

Далее в этом брифинге рассматривается состояние реализации режимов индивидуальной подотчетности в четырех ключевых финансовых центрах.Хотя их детали и охват различаются, все они направлены на то, чтобы лучше определить, за что несут ответственность ключевые лица, и привлечь их к общей ответственности.

Австралия

ARBC, или, если обратиться к ее полному официальному названию, Королевская комиссия по расследованию неправомерных действий в сфере банковского дела, пенсионного обеспечения и финансовых услуг, дала пять рекомендаций финансовым учреждениям по изменению культуры и управления. Это были:

  • Оцените их культуру и управление.
  • Определите любые проблемы с этой культурой и управлением.
  • Разберись с этими проблемами.
  • Определите, были ли изменения эффективными.

В связи с этим в июле 2018 года для крупных уполномоченных депозитных учреждений ( ADI ) и их директоров и руководителей высшего звена был введен Режим отчетности руководителей банков ( BEAR ). Он был распространен на малые и средние учреждения. 1 июля 2019 года. Эти организации должны зарегистрировать в Австралийском органе пруденциального регулирования ( APRA ) тех руководителей высшего звена и директоров, которые являются «подотчетными лицами».В отличие от Управления пруденциального регулирования ( PRA ) и FCA в Великобритании в отношении функций высшего руководства, APRA активно не дает одобрения, но может запрашивать или оспаривать определенные кандидатуры. Цель BEAR состоит в том, чтобы бесстыдно «обеспечить наличие четких последствий в случае существенного сбоя» и оправдать «четкие и повышенные ожидания в отношении ответственности». В информационном документе APRA говорится, что внедрение дает возможность «при каскадном распространении по всему учреждению» укрепить культуру управления рисками на всех уровнях.

Подотчетные лица должны действовать честно и добросовестно, с должным умением, заботой и усердием, работая с APRA открыто, конструктивно и в духе сотрудничества. Они должны предпринять разумные шаги в соответствии со своими обязанностями, чтобы предотвратить возникновение вопросов, которые могут нанести ущерб пруденциальному положению или репутации их банка.

APRA ожидает, что учреждения составят «заявления об ответственности», чтобы сформулировать, за что несет ответственность подотчетное лицо, охватывая все области, в которых они несут фактическую или действительную ответственность за управление или контроль, а также свои обязанности.Они должны соответствовать их практике и механизмам управления, которые в совокупности должны объяснять, как обязанности подотчетных лиц объединяются в учреждении или группе. Подотчетные лица должны подписать свое заявление, подтверждающее их ответственность за определенную область или часть бизнеса. Подотчетное лицо, не выполняющее свои обязанности, может быть дисквалифицировано и, по заявлению APRA в суд, может быть подвергнуто значительным финансовым санкциям.

Что касается вознаграждения, ADI должны отсрочить минимальный процент переменного вознаграждения подотчетного лица как минимум на четыре года.В случае, если такие менеджеры не выполняют свои обязательства по BEAR, политика вознаграждения учреждения должна предусматривать сокращение, пропорциональное нарушению. Расширение BEAR может означать, что более подходящим названием для режима будет FEAR, поскольку в итоговом отчете ARBC в январе 2019 г. рекомендуется распространить BEAR на все организации, предоставляющие финансовые услуги, которые подпадают под действие Австралийской комиссии по ценным бумагам и инвестициям ( ). ASIC ) нормативная компетенция.В заключительном отчете также высказывалось предположение, что BEAR может в конечном итоге быть распространен на сами австралийские регуляторы финансовых услуг (см. Рекомендацию 6.12), как это сделало FCA Великобритании в отношении своих SM&CR.

Гонконг

В 2017 году Управление денежно-кредитного регулирования Гонконга ( HKMA ), орган банковского надзора региона, начало программу реформирования банковской культуры, продвигая основу для формирования здоровой культуры в банках. Признавая, что не существует универсального подхода, особое значение придается трем основным элементам: управлению, системам стимулирования и механизму оценки и обратной связи.От банков требовалось пересматривать и отчитываться о своих механизмах управления, включая политику и процедуры, о корпоративной культуре, а также предпринимать шаги для развития здоровой банковской культуры. Более поздние надзорные меры требуют от банков проведения самооценки — был выпущен шаблон вопросов — и наблюдения за тем, как надзорные органы HKMA проводят целенаправленные проверки для оценки и сравнительного анализа практики банка в отношении культуры, а также сбора информации в ходе «культурных диалогов» с руководство. HKMA прямо признало, что ищет опыт в других местах и, особенно, в Королевской комиссии Австралии.

Режим ответственного управляющего ( MIC ), имеющий большое значение для механизмов управления, действует с октября 2017 года. Этот режим охватывает около 10 000 высокопоставленных лиц, отвечающих за управление основными функциями в компаниях, предоставляющих финансовые услуги, под контролем Комиссии по ценным бумагам и фьючерсам. . Аналогичным образом в марте 2018 года этому примеру последовало Валютно-финансовое управление Гонконга, запустившее Инициативу управленческой подотчетности (MAI).

В отличие от SM&CR Великобритании, вообще говоря, ни MIC, ни MAI не налагают новых обязательств на физических лиц. Существующие рамки пригодности и приличия остаются в силе. Более того, MIC и MAI были введены без обращения к первичному законодательству – например, MAI дополняет ранее существовавший режим Раздела 72B для руководителей для должностных лиц и менеджеров. Скорее, режимы стремятся лучше реализовать ожидания регуляторов и заставить руководство лучше осознавать свою индивидуальную ответственность.В связи с этим оба стремятся определить лиц, ответственных за определенные функции, такие как ключевые направления деятельности, управление рисками и отмывание денег, и, как и в Великобритании, фирмы должны иметь карты управления, показывающие структуру управления, роли, обязанности и линии подчинения — все из них полезны для регулирующих органов, стремящихся распределить ответственность после нарушения нормативных требований фирмой.

Сингапур

В апреле 2018 года Денежно-кредитное управление Сингапура ( MAS ) провело консультации по руководящим принципам усиления подотчетности и стандартов поведения в финансовом секторе.Согласно MAS, целью «Руководства по индивидуальной ответственности и поведению» является продвижение индивидуальной ответственности старших менеджеров, усиление надзора за персоналом, подверженным существенным рискам, и, что важно, усиление стандартов надлежащего поведения среди всех сотрудников. Они занимают центральное место в подходе MAS к развитию здоровой культуры и поведения, которые он считает основополагающими для надежной и этичной финансовой экосистемы. Сингапур считает, что хорошей культурой движет внутреннее лидерство и самодисциплина при эффективном контроле.Руководство будет применяться к банкам, страховым компаниям, посредникам и рыночным инфраструктурам и, в отличие от SM&CR Великобритании, к поставщикам платежей. Получив отзывы и опубликовав свой ответ на консультационный документ 2018 года, MAS в настоящее время проводит консультации относительно сферы применения предлагаемых Руководящих принципов (т. Е. Какие фирмы в этом секторе будут подпадать под их действие).

Финансовые учреждения должны работать над достижением пяти результатов. Они должны определить старших менеджеров, которые несут ответственность за основные функции (т.g., главный исполнительный директор, глава бизнес-функции и руководитель отдела соблюдения требований и т. д.), определите, являются ли они годными и надлежащими, а также несут ответственность за действия своих сотрудников, и подтвердите, что их структура управления и порядок подчинения ясны и прозрачный. Кроме того, «персонал, связанный с существенными рисками», должен быть в хорошей форме и соответствовать требованиям, при условии эффективного управления рисками с соблюдением соответствующих стандартов поведения и, что касается вознаграждения, иметь надлежащие системы стимулирования. В целом должна существовать структура, которая «способствует и поддерживает желаемое поведение среди всех сотрудников.Признавая озабоченность по поводу пропорциональности, MAS заявило, что обычно не ожидает, что более мелкие фирмы (т. е. с численностью персонала менее 20 человек) примут описанное конкретное руководство.

Наряду с этим, MAS и Ассоциация банков Сингапура создали Руководящую группу по культуре и поведению для продвижения здоровой культуры и повышения стандартов поведения среди банков Сингапура. Перед группой поставлена ​​задача выявлять новые тенденции в поведении и поведении, а также делиться передовым опытом в «правильной культуре».Кроме того, в июне 2019 года MAS создала небольшое подразделение поведенческих наук для наращивания потенциала и поддержки своих руководителей с помощью методологий для лучшего понимания культуры и решения проблем в учреждениях, которые они курируют. В том же месяце Институт банковского дела и финансов и Альянс чартерных организаций Великобритании подписали Декларацию о намерениях углубить сотрудничество в области повышения квалификации специалистов банковского дела, рынка капитала и страхования. Это включает в себя разработку и реализацию программ обучения, а также содействие взаимному признанию профессиональных стандартов и сертификатов.

Великобритания

При надзоре за фирмами FCA фокусируется на том, что они считают четырьмя движущими силами культуры: цель фирмы, лидерство, подход к вознаграждению и управлению людьми и управление. По его мнению, SM&CR внес ясность в отношении этих драйверов. FCA надеется, что высшее руководство привьет здоровую культуру в своих фирмах, чтобы снизить риск причинения вреда клиентам. Согласно опубликованному в марте 2018 года документу FCA о преобразовании культуры, уроки, извлеченные FCA из неправомерных действий банков, включают:

  • Необходимость задавать тон сверху – имея четко сформулированную цель и поддерживающие ценности
  • Соответствие слов и действий – поощрение и вознаграждение поведения и результатов, которые соответствуют цели и ценностям фирмы
  • Рабочая среда, которая побуждает сотрудников высказывать свое мнение, чтобы снизить риск того, что плохое поведение или неудовлетворительные результаты работы с клиентами останутся незамеченными

В этом контексте SM&CR заменяет дискредитировавший себя режим уполномоченных лиц трехуровневой структурой. На вершине пирамидальной структуры находятся лица, занимающие должности старшего руководства ( SMF ), члены правления и другие лица, занимающие ключевые должности или несущие общую ответственность за определенные области бизнеса, функции или виды деятельности в фирме, требующие предварительного утверждения. PRA или FCA (в зависимости от выполняемой функции). Руководители высшего звена несут «обязанность ответственности» предпринимать такие шаги, которые можно разумно ожидать от лица в их положении, чтобы избежать нарушения нормативных требований со стороны фирмы, происходящего (или продолжающегося) в той части бизнеса, за которую они несут ответственность.Что касается вознаграждения, то на старших менеджеров также распространяются правила в отношении соотношения дискреционного вознаграждения — так называемых пределов бонусов — и неустойки и возврата заработной платы.

Ниже SMF находятся обладатели функций значительного вреда. Эти лица не требуют одобрения регулирующих органов, но должны быть сертифицированы регулируемой фирмой, которая должна ежегодно оценивать их пригодность и правомерность. Эта часть режима охватывает большинство лиц, кроме SMF, которые ранее подпадали под действие режима уполномоченных лиц.Сертифицированные лица (как их называют) составляют следующую ступень управления от старших менеджеров, плюс определенные технические и клиентские функции. Наконец, в нижней части пирамиды находится весь персонал, за исключением тех, кто выполняет чисто вспомогательные функции (например, администраторы), на которых распространяются правила поведения.

Режим был распространен на банки, кредитные союзы и крупные инвестиционные компании в 2016 году (ведущим регулирующим органом которых является PRA) и, будучи объявлен успешным регулирующими органами Великобритании, был распространен в измененной форме на страховщиков в 2018 году, а позднее в этом году , в измененной форме для обеспечения пропорциональности, к большинству других предприятий, предоставляющих финансовые услуги.Исключением являются фирмы, занимающиеся платежами и электронными деньгами, которые уполномочены в соответствии с отдельным законодательством. С SM&CR и повышенной индивидуальной подотчетностью тесно связаны более строгие правила в отношении нормативных ссылок — для предотвращения перехода так называемых «плохих яблок» из одной фирмы в другую — и меры по поощрению сообщений о нарушениях.

Дополнительной отраслевой инициативой стало создание Совета по банковским стандартам для продвижения высоких стандартов поведения и компетентности в британских банках и строительных обществах.

Будущие разработки

Успех усиления режимов индивидуальной подотчетности в изменении культуры и, следовательно, сокращения неправомерных действий придется оценивать со временем. Тем временем эти режимы могут быть развернуты в других местах или, по крайней мере, повлиять на структуру регулирования. Хотя другая юрисдикция общего права, США, (пока) не имеет сопоставимого режима, отчасти, возможно, из-за разнообразия регулирующих органов, она наделена значительными правоприменительными полномочиями. Тем не менее, в то время как регулирующие органы в США направили свою огневую мощь на организации, а не на отдельных менеджеров, они начали уделять все больше внимания управлению. Хотя с приходом администрации Трампа политические ветры могли измениться, в 2016 году в контексте расширения сферы ответственности руководителей высшего звена Мэри Джо Уайт, тогдашний председатель Комиссии по ценным бумагам и биржам США, упомянула в своем выступлении о растущем разочарование в связи с тем, что законодательство США не возлагает ответственности на руководителей высшего звена за формирование культуры, ведущей к неправомерным действиям, или за неспособность обеспечить надлежащий контроль, который мог бы их предотвратить. Она призвала к нестандартному мышлению и к тому, что агентству следует изучить реализацию SM&CR Великобритании, чтобы извлечь уроки по привлечению к ответственности руководителей.

Сек Чеонг Йонг (Сингапур) и Шемира Дживаратнам (Сидней) внесли свой вклад в эту работу.

Букер, Уайден и Кларк представляют законопроект, требующий от компаний устранять предвзятость в корпоративных алгоритмах

ВАШИНГТОН, округ Колумбия — Сенаторы США Кори Букер (штат Нью-Джерси) и Рон Уайден (штат Орегон) вместе с членом палаты представителей Иветт Д. Кларк (штат Нью-Йорк) представили сегодня Закон об алгоритмической отчетности, который требует от компаний изучения и исправить ошибочные компьютерные алгоритмы, которые приводят к неточным, несправедливым, предвзятым или дискриминационным решениям, влияющим на американцев.

«50 лет назад мои родители столкнулись с практикой, называемой «управление недвижимостью», когда чернокожие пары уводили из определенных районов Нью-Джерси. С помощью местных адвокатов и поддержки федерального законодательства они победили. Семью, с которой столкнулись в 1969 году, будет значительно сложнее обнаружить в 2019 году: дома, о которых вы никогда не знаете, выставлены на продажу, возможности трудоустройства, которые никогда не представляются, и финансирование, о котором вы никогда не узнаете, — все из-за предвзятых алгоритмов», — сказал Букер.«Этот законопроект требует, чтобы компании регулярно оценивали свои инструменты на предмет точности, справедливости, предвзятости и дискриминации. Это ключевой шаг к обеспечению большей ответственности со стороны организаций, использующих программное обеспечение для принятия решений, которые могут изменить жизнь».

«Компьютеры все чаще участвуют в принятии наиболее важных решений, влияющих на жизнь американцев — может ли кто-то купить дом, устроиться на работу или даже попасть в тюрьму. Но вместо устранения предвзятости эти алгоритмы слишком часто зависят от предвзятых предположений или данные, которые могут фактически усилить дискриминацию в отношении женщин и цветных», — сказал Уайден.«Наш законопроект требует, чтобы компании изучали используемые ими алгоритмы, выявляли предвзятость в этих системах и устраняли любую обнаруженную дискриминацию или предвзятость».

«У алгоритмов не должно быть исключений из наших антидискриминационных законов. Наш законопроект признает, что у алгоритмов есть авторы, и без тщательного надзора они могут отражать предубеждения тех, кто стоит за клавиатурой», — сказал Кларк. «Обязывая крупные компании не закрывать глаза на непреднамеренное воздействие их автоматизированных систем, Закон об алгоритмической ответственности гарантирует, что технологии 21-го века являются инструментами расширения возможностей, а не маргинализации, а также укрепляют безопасность и конфиденциальность всех потребителей.”

Законопроект следует многочисленным сообщениям о компьютерных алгоритмах, создающих предвзятые и дискриминационные результаты. Ранее в этом месяце Департамент жилищного строительства и городского развития обвинил Facebook в нарушении Закона о справедливом жилищном обеспечении, позволив рекламодателям проводить дискриминацию по признаку расы, религии и инвалидности. В прошлом году, например, агентство Reuters сообщило, что Amazon закрыла автоматизированный инструмент для найма, который был предвзят в отношении женщин.

Закон об алгоритмической ответственности:

Уполномочить Федеральную торговую комиссию (FTC) разработать правила, требующие от компаний, находящихся под ее юрисдикцией, проводить оценку воздействия высокочувствительных автоматизированных систем принятия решений. Это требование будет применяться как к новым, так и к существующим системам.

Требовать от компаний оценки использования ими автоматизированных систем принятия решений, включая обучающие данные, на предмет влияния на точность, справедливость, предвзятость, дискриминацию, конфиденциальность и безопасность.

Требовать от компаний оценки того, как их информационные системы защищают конфиденциальность и безопасность личной информации потребителей.

Требовать от компаний исправления любых проблем, которые они обнаружат в ходе оценки воздействия.

Законопроект одобрен группами, занимающимися технологиями и гражданскими правами, в том числе Data for Black Lives, Центром конфиденциальности и технологий Джорджтаунского закона и Национальной коалицией латиноамериканских СМИ.

«В Data for Black Lives мы создаем движение организаторов, ученых и технологов, использующих науку о данных для создания конкретных и измеримых изменений в жизни чернокожих. Мы не понаслышке знаем о пагубном влиянии, которое автоматизированные системы принятия решений оказывают на родителей, борющихся за доступ к качественному образованию, на чернокожих матерей, привлекающих системы здравоохранения к вопросу о том, как обеспечить уход, защищающий их новорожденных, и на активистов, борющихся против лишения и обездоленности общества.Мы надеемся, что помимо регулирования, этот закон приведет к более широкой дискуссии об огромном потенциале систем данных, если они будут использоваться с соблюдением этических норм, для возвышения, расширения прав и возможностей и демократизации наших сообществ», — Data for Black Lives

.

«Автоматизированные решения не являются нейтральными решениями. Они основаны на человеческих данных. Пока люди предвзяты, алгоритмы тоже будут предвзяты. Этот законопроект заставит компании считаться с этой реальностью». – Центр конфиденциальности и технологий в Джорджтаунском законе

«Алгоритмы контролируют различные аспекты цифровой экономики. Они определяют, с какими кандидатами будут проходить собеседования и сколько им будут платить; кто будет нацелен на рекламу или исключен из нее; и сколько потребители будут платить за товары и доставку в Интернете. Тем не менее общественность в значительной степени находится в неведении относительно того, как собираются, обрабатываются, передаются и хранятся личные данные. Особенно для латиноамериканцев и других маргинализированных сообществ, которые часто подвергались вреду данных, Закон об алгоритмической подотчетности 2019 года привносит столь необходимую прозрачность и подотчетность в структуры данных, которые кодифицируют бессознательную предвзятость и институциональную дискриминацию в коде.” – Франселла Очилло, вице-президент по политике и главный юрисконсульт, Национальная коалиция латиноамериканских СМИ

Полный текст счета доступен здесь.

Фон в записи Букера:

Букер был одним из первых законодателей, призвавших к усилению антимонопольного надзора за крупными технологическими компаниями, и он последовательно боролся за то, чтобы существующая в нашем обществе дискриминация и предвзятость не стали усиливаться и автоматизироваться в будущем.

В прошлом году Букер впервые заручился обязательством генерального директора Facebook Марка Цукерберга провести аудит соблюдения гражданских прав в Facebook.Помимо прочего, аудит предназначен для устранения алгоритмических предубеждений на платформах Facebook.

В июле Букер в партнерстве с сенатором Уайденом провел опрос 39 федеральных правоохранительных органов об использовании ими технологии распознавания лиц и о том, какие политики, если таковые имеются, они установили для предотвращения злоупотреблений, неправомерного использования и дискриминации. В том же месяце он также присоединился к сенаторам, попросившим GAO изучить коммерческое и государственное использование технологии распознавания лиц, а также изучить, какие меры безопасности приняты компаниями и правоохранительными органами для предотвращения неправомерного использования и дискриминации по признаку расы, пола и возраста.

В октябре 2018 года сенатор Букер закрепил в Законе о полномочиях FAA формулировку, требующую от TSA отчитываться перед Конгрессом о методах устранения предвзятого отношения к расе, полу и возрасту, поскольку TSA начинает развертывание технологии распознавания лиц на внутренних рейсах.

Система рейтинга финансовой честности Техаса

Система рейтинга финансовой ответственности школ штата, известная как Система рейтинга финансовой честности школ Техаса (FIRST), гарантирует, что государственные школы Техаса несут ответственность за качество своей практики управления финансами и что они улучшают эти методы.Система предназначена для поощрения государственных школ Техаса к более эффективному управлению своими финансовыми ресурсами, чтобы обеспечить максимально возможное выделение средств для прямых учебных целей.

Рейтинги

Школьный округ FIRST Рейтинги

Полезные советы по определению вашего ПЕРВОГО рейтинга

Следующие шаги должны быть предприняты, чтобы предвидеть и сделать наилучшую оценку того, какую оценку округ получит в FIRST:

  1. Просмотрите информацию до завершения ежегодного финансового аудита.(Годовой финансовый отчет [AFR] принадлежит округу, а не фирме CPA.  Это ответственность округа.) Это должно включать выборочную проверку цифр по главной бухгалтерской книге округа и другим финансовым отчетам.
  2. Спросите аудитора обо всем, что не соответствует AFR. (Примеры: Почему неограниченная чистая позиция является отрицательной? Были ли обнаружены какие-либо существенные ошибки неправильного кодирования?)
  3. Если это будет сочтено целесообразным,   попросите Образовательный сервисный центр помочь просмотреть AFR до его окончательной доработки или заключить договор с другой фирмой CPA для помощи в рассмотрении.
  4.  Используйте шаблон Schools FIRST Техасской ассоциации руководителей школьного бизнеса (TASBO) (https://www.tasbo.org/tools-services/schools-first-communication-kit), чтобы получить предполагаемые результаты FIRST.
  5. Посещайте презентации FIRST и используйте информацию.
  6. Если у вас есть вопросы, обращайтесь в отдел финансового контроля TEA по телефону 512-463-9095 или по адресу электронной почты [email protected] texas.gov.

Переписка

Шаблон ежегодного финансового отчета School FIRST для использования школьными округами

Закон и правила

Закон: 
Правила комиссара:

Передовая практика и политика по снижению вреда для потребителей

Введение

Частный и государственный секторы все чаще обращаются к системам искусственного интеллекта (ИИ) и алгоритмам машинного обучения для автоматизации простых и сложных процессов принятия решений. 1 Массовая оцифровка данных и новые технологии, использующие их, разрушают большинство секторов экономики, включая транспорт, розничную торговлю, рекламу, энергетику и другие области. ИИ также оказывает влияние на демократию и управление, поскольку компьютеризированные системы внедряются для повышения точности и объективности в государственных функциях.

Наличие массивных наборов данных упростило получение новой информации с помощью компьютеров. В результате алгоритмы, представляющие собой набор пошаговых инструкций, которым компьютеры следуют для выполнения задачи, стали более сложными и распространенными инструментами для автоматизированного принятия решений. 2 Хотя алгоритмы используются во многих контекстах, мы сосредоточимся на компьютерных моделях, которые делают выводы на основе данных о людях, включая их личность, их демографические характеристики, их предпочтения и их вероятное поведение в будущем, а также объекты, связанные с ними. 3

«Алгоритмы используют объемы макро- и микроданных, чтобы влиять на решения, влияющие на людей в ряде задач, от рекомендаций фильмов до помощи банкам в определении кредитоспособности людей.

В доалгоритмическом мире люди и организации принимали решения о найме, рекламе, вынесении уголовных приговоров и кредитовании. Эти решения часто регулировались федеральными, государственными и местными законами, которые регулировали процессы принятия решений с точки зрения справедливости, прозрачности и справедливости. Сегодня некоторые из этих решений полностью принимаются или находятся под влиянием машин, чей масштаб и статистическая точность обещают беспрецедентную эффективность. Алгоритмы используют объемы макро- и микроданных, чтобы влиять на решения, влияющие на людей в целом ряде задач, от рекомендаций фильмов до помощи банкам в определении кредитоспособности людей. 4 В машинном обучении алгоритмы полагаются на несколько наборов данных или обучающих данных, которые определяют, какие выходные данные являются правильными для некоторых людей или объектов. Затем из этих обучающих данных он изучает модель, которую можно применять к другим людям или объектам, и делать прогнозы о том, какими должны быть правильные результаты для них. 5

Однако, поскольку машины могут по-разному относиться к людям и объектам, находящимся в одинаковой ситуации, исследования начинают выявлять некоторые тревожные примеры, в которых реальность алгоритмического принятия решений не соответствует нашим ожиданиям. Учитывая это, некоторые алгоритмы рискуют воспроизвести и даже усилить человеческие предубеждения, особенно те, которые затрагивают защищенные группы. 6 Например, автоматические оценки рисков, используемые судьями США для определения пределов залога и приговора, могут привести к неверным выводам, что приведет к значительному кумулятивному эффекту для определенных групп, например к более длительным срокам тюремного заключения или более высоким залогам, назначаемым цветным людям.

В этом примере решение порождает «предвзятость» — термин, который мы определяем в широком смысле, поскольку он относится к результатам, которые систематически менее благоприятны для отдельных лиц в конкретной группе, и где нет соответствующих различий между группами, оправдывающих такой вред. 7 Систематическая ошибка в алгоритмах может возникать из-за нерепрезентативных или неполных обучающих данных или из-за использования ошибочной информации, отражающей историческое неравенство. Если их не контролировать, предвзятые алгоритмы могут привести к решениям, которые могут иметь коллективное, несоизмеримое влияние на определенные группы людей, даже без намерения программиста провести дискриминацию. Изучение преднамеренных и непреднамеренных последствий алгоритмов является необходимым и своевременным, особенно с учетом того, что текущей государственной политики может быть недостаточно для выявления, смягчения и устранения воздействия на потребителей.

Учитывая, что алгоритмы появляются в различных приложениях, мы утверждаем, что операторы и другие заинтересованные стороны должны усердно устранять факторы, способствующие систематической ошибке. Заблаговременное обнаружение и реагирование на алгоритмическую предвзятость потенциально может предотвратить вредное воздействие на пользователей и серьезную ответственность перед операторами и создателями алгоритмов, включая программистов, правительство и лидеров отрасли. Эти участники составляют аудиторию для серии предложений по смягчению последствий, которые будут представлены в этом документе, потому что они либо создают, лицензируют, распространяют, либо им поручено регулирование или законодательное принятие алгоритмических решений для уменьшения дискриминационных намерений или последствий.

Наше исследование представляет собой основу для алгоритмической гигиены , которая определяет некоторые конкретные причины предубеждений и использует лучшие методы для их выявления и смягчения. Мы также представляем набор рекомендаций по государственной политике, которые способствуют справедливому и этичному внедрению технологий искусственного интеллекта и машинного обучения.

Этот документ основан на мнениях 40 лидеров мнений из разных академических дисциплин, отраслей промышленности и организаций гражданского общества, принявших участие в одном из двух круглых столов. 8 Участники круглого стола активно обсуждали концепции, связанные с алгоритмическим проектированием, подотчетностью и справедливостью, а также технические и социальные компромиссы, связанные с различными подходами к обнаружению и устранению предвзятости.

Наша цель — сопоставить проблемы, с которыми сталкиваются программисты и лидеры отрасли при разработке алгоритмов, с проблемами политиков и групп гражданского общества, которые оценивают их последствия. Чтобы сбалансировать инновации ИИ и алгоритмов машинного обучения с защитой прав личности, мы представляем набор рекомендаций государственной политики, передовой опыт саморегулирования и стратегии, ориентированные на потребителя, — все из которых способствуют справедливому и этичному развертыванию этих технологий. .

Наши рекомендации в отношении государственной политики включают в себя обновление законов о недискриминации и гражданских правах, чтобы они применялись к цифровой практике, использование регулятивных песочниц для стимулирования экспериментов по борьбе с предвзятостью и безопасных убежищ для использования конфиденциальной информации для выявления и смягчения предубеждений. Мы также описываем набор лучших практик саморегулирования, таких как разработка заявления о воздействии предвзятости, инклюзивные принципы проектирования и межфункциональные рабочие группы. Наконец, мы предлагаем дополнительные решения, ориентированные на алгоритмическую грамотность среди пользователей и формальные механизмы обратной связи с группами гражданского общества.

В следующем разделе представлены пять примеров алгоритмов для объяснения причин и источников их ошибок. Далее в статье мы обсудим компромиссы между справедливостью и точностью в смягчении алгоритмической предвзятости, а затем предложим надежные передовые методы саморегулирования, рекомендации государственной политики и ориентированные на потребителя стратегии устранения предубеждений в Интернете. В заключение мы подчеркиваем важность активного решения ответственного и этичного использования машинного обучения и других автоматизированных инструментов принятия решений.

Примеры алгоритмических ошибок

Алгоритмическая предвзятость может проявляться по-разному с разной степенью последствий для исследуемой группы. Рассмотрим следующие примеры, которые иллюстрируют как ряд причин, так и следствий, которые либо непреднамеренно применяют различный подход к группам, либо преднамеренно оказывают на них несопоставимое воздействие.

Предвзятость в онлайн-инструментах для подбора персонала

Интернет-магазин Amazon, 60 % сотрудников которого составляют мужчины и где мужчины занимают 74 % руководящих должностей, недавно прекратила использование алгоритма найма после обнаружения гендерной предвзятости. 9 Данные, которые инженеры использовали для создания алгоритма, были получены из резюме, отправленных на Amazon за 10-летний период, в основном от белых мужчин. Алгоритм научили распознавать шаблоны слов в резюме, а не соответствующие наборы навыков, и эти данные были сопоставлены с инженерным отделом компании, в котором преобладают мужчины, чтобы определить, подходит ли кандидат. В результате программное обеспечение ИИ наказывало любое резюме, содержащее слово «женский» в тексте, и понижало рейтинг резюме женщин, посещавших женские колледжи, что приводило к гендерной предвзятости. 10

Amazon прекратила работу алгоритма найма после того, как обнаружила, что он приводит к гендерной предвзятости при приеме на работу. (Фото: Брайан Снайдер/Reuters)

Предвзятость в словесных ассоциациях

Исследователи Принстонского университета использовали готовое программное обеспечение искусственного интеллекта для машинного обучения, чтобы проанализировать и связать 2,2 миллиона слов. Они обнаружили, что европейские имена воспринимались как более приятные, чем имена афроамериканцев, и что слова «женщина» и «девушка» чаще ассоциировались с искусством, а не с наукой и математикой, которые, скорее всего, были связаны с мужчинами. . 11 При анализе этих словесных ассоциаций в обучающих данных алгоритм машинного обучения выявил существующие расовые и гендерные предубеждения, проявляемые людьми. Если бы изученные ассоциации этих алгоритмов использовались как часть алгоритма ранжирования поисковой системы или для генерации предложений слов как часть инструмента автозаполнения, это могло бы иметь кумулятивный эффект усиления расовых и гендерных предубеждений.

Предвзятость в интернет-рекламе

Латанья Суини, исследователь из Гарварда и бывший главный технический директор Федеральной торговой комиссии (FTC), обнаружила, что поисковые запросы в Интернете по афроамериканским именам с большей вероятностью вернут этому человеку рекламу из службы, которая предоставляет записи об арестах, по сравнению с результаты объявления для белых имен. 12 Ее исследование также показало, что такое же дифференцированное отношение имело место при микронацеливании на кредитные карты с более высокой процентной ставкой и другие финансовые продукты, когда компьютер делал вывод, что испытуемые были афроамериканцами, несмотря на то, что они были схожи с белыми. 13 Во время публичной презентации на слушаниях Федеральной торговой комиссии по большим данным Суини продемонстрировал, как веб-сайт, рекламировавший столетний юбилей полностью черного братства, постоянно получал рекламные предложения о покупке «записей об арестах» или получении кредита под высокие проценты. карточные предложения. 14

Предвзятость в технологии распознавания лиц

Исследователь Массачусетского технологического института Джой Буоламвини обнаружила, что алгоритмы, лежащие в основе трех коммерчески доступных программных систем распознавания лиц, не распознают лица с более темной кожей. 15 Как правило, большинство наборов данных для обучения распознаванию лиц, по оценкам, составляют более 75 процентов мужчин и более 80 процентов белых. Когда человек на фотографии был белым мужчиной, программа в 99% случаев точно определяла человека как мужчину.Согласно исследованию Буоламвини, уровень ошибок для трех продуктов в целом составлял менее одного процента, но увеличился до более чем 20 процентов в одном продукте и 34 процента в двух других при идентификации темнокожих женщин как женщин. 16 В ответ на результаты анализа лица Буоламвини и IBM, и Microsoft взяли на себя обязательство повысить точность своего программного обеспечения для распознавания темнокожих лиц.

Предвзятость в алгоритмах уголовного правосудия

Признание возможности и причин смещения является первым шагом в любом подходе к смягчению последствий.

Алгоритм COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), который используется судьями для прогнозирования того, должны ли обвиняемые быть задержаны или освобождены под залог до суда, оказался предвзятым в отношении афроамериканцев, согласно отчету ProPublica. 17 Алгоритм присваивает оценку риска вероятности совершения подсудимым преступления в будущем, опираясь на объемные данные, доступные в записях об арестах, демографических характеристиках подсудимых и других переменных.По сравнению с белыми, которые в равной степени склонны к повторным правонарушениям, афроамериканцам с большей вероятностью будет присвоена более высокая оценка риска, что приведет к более длительным периодам задержания в ожидании суда. 18 Northpointe, фирма, которая продает результаты работы алгоритма, предлагает доказательства, опровергающие подобные утверждения, и утверждает, что для оценки справедливости продукта используются неверные показатели. К этой теме мы вернемся позже в статье.

Хотя эти примеры необъективности не являются исчерпывающими, они предполагают, что эти проблемы являются эмпирическими реалиями, а не просто теоретическими проблемами.Они также иллюстрируют, как возникают эти результаты, и в некоторых случаях без злого умысла со стороны создателей или операторов алгоритма. Признание возможности и причин предвзятости является первым шагом в любом подходе к смягчению последствий. По этому поводу участник круглого стола Рикардо Баеза-Йейтс из NTENT заявил, что «[компании] будут по-прежнему сталкиваться с проблемой обсуждения алгоритмической предвзятости, если они не будут ссылаться на саму фактическую предвзятость».

Причины смещения

Барокас и Селбст отмечают, что предубеждения могут возникать на всех этапах проекта, «…будь то определение проблемы, которую необходимо решить, таким образом, что это по-разному влияет на классы, неспособность распознать или устранить статистические предубеждения, воспроизведение прошлых предубеждений или рассмотрение недостаточно богатый набор факторов.” 19 Участники круглого стола уделили особое внимание предвзятости, связанной с ошибками в данных, используемых для обучения алгоритмов. «Неверные данные — это большая проблема, — заявила участница круглого стола Люси Вассерман из Google, — особенно для тех групп, которые предприятия прилагают все усилия для защиты». Хотя причин много, мы сосредоточимся на двух из них: исторические человеческие предубеждения и неполные или нерепрезентативные данные .

Исторические человеческие предубеждения

Исторические человеческие предубеждения формируются широко распространенными и часто глубоко укоренившимися предрассудками в отношении определенных групп, что может привести к их воспроизведению и усилению в компьютерных моделях.В алгоритме COMPAS, если афроамериканцы с большей вероятностью будут арестованы и заключены в тюрьму в США из-за исторического расизма, неравенства в полицейской практике или другого неравенства в системе уголовного правосудия, эти реалии будут отражены в обучающих данных и использованы. вносить предложения о заключении подсудимого под стражу. Если в модели учитывать исторические предубеждения, она будет делать те же неправильные суждения, что и люди.

Алгоритм найма Amazon выявил аналогичную траекторию, когда мужчины были эталоном профессиональной «подгонки», в результате чего соискатели-женщины и их качества были понижены. Эти исторические реалии часто находят свое отражение в разработке и выполнении алгоритмов, и они усугубляются отсутствием разнообразия, которое существует в областях компьютерных наук и науки о данных. 20

Кроме того, человеческие предубеждения могут усиливаться и сохраняться без ведома пользователя. Например, афроамериканцы, которые в первую очередь являются мишенью для высокопроцентных вариантов кредитных карт, могут нажать на этот тип рекламы, не осознавая, что они будут продолжать получать такие хищнические онлайн-предложения.В этом и других случаях алгоритм может никогда не накапливать контрфактические рекламные предложения (например, варианты кредита с более низкой процентной ставкой), на которые потребитель мог бы иметь право и предпочесть. Таким образом, для разработчиков алгоритмов и операторов важно следить за такими потенциальными петлями отрицательной обратной связи, которые со временем приводят к тому, что алгоритм становится все более предвзятым.

Неполные или нерепрезентативные данные обучения

Недостаточное количество обучающих данных — еще одна причина алгоритмической ошибки. Если данные, используемые для обучения алгоритма, более репрезентативны для одних групп людей, чем для других, прогнозы модели также могут быть систематически хуже для непредставленных или недостаточно репрезентативных групп. Например, в экспериментах Буоламвини по анализу лиц плохое распознавание темнокожих лиц было в значительной степени связано с их статистической недопредставленностью в обучающих данных. То есть алгоритм предположительно улавливал определенные черты лица, такие как расстояние между глазами, форму бровей и вариации оттенков кожи лица, как способы обнаружения мужских и женских лиц.Однако черты лица, которые были более репрезентативны в данных обучения, были не такими разнообразными и, следовательно, менее надежными для различения цвета лица, что даже приводило к ошибочной идентификации темнокожих женщин как мужчин.

Тернер Ли утверждал, что отсутствие разнообразия среди программистов, разрабатывающих обучающую выборку, часто может привести к недостаточному представлению определенной группы или определенных физических характеристик. 21 Выводы Буоламвини были получены благодаря ее тщательному тестированию, выполнению и оценке разнообразного проприетарного программного обеспечения для анализа лиц в различных условиях с поправкой на отсутствие разнообразия в их образцах.

И наоборот, алгоритмы со слишком большим объемом данных или чрезмерным представлением могут исказить решение в пользу определенного результата. Исследователи из Джорджтаунской школы права обнаружили, что примерно 117 миллионов взрослых американцев участвуют в сетях распознавания лиц, используемых правоохранительными органами, и что афроамериканцев с большей вероятностью будут выделены в первую очередь из-за их чрезмерной представленности в базах данных фотоснимков. 22 Следовательно, лица афроамериканцев имели больше возможностей для ложного сопоставления, что производило эффект предвзятости.

Стратегии обнаружения смещения

Понимание различных причин предубеждений — первый шаг к принятию эффективной алгоритмической гигиены. Но как операторы алгоритмов могут оценить, действительно ли их результаты необъективны? Даже когда ошибки в обучающих данных исправлены, результаты все еще могут быть проблематичными, потому что контекст имеет значение на этапе обнаружения предвзятости.

«Даже когда ошибки в обучающих данных будут исправлены, результаты все еще могут быть проблематичными, поскольку контекст имеет значение на этапе обнаружения предвзятости.

Во-первых, все подходы к обнаружению должны начинаться с тщательной обработки конфиденциальной информации пользователей, включая данные, идентифицирующие принадлежность человека к группе, охраняемой государством (например, раса, пол). В некоторых случаях операторы алгоритмов могут также беспокоиться о принадлежности человека к какой-либо другой группе, если они также подвержены несправедливым результатам. Примером этого могут быть сотрудники приемных комиссий колледжей, обеспокоенные тем, что алгоритм исключает абитуриентов из малообеспеченных или сельских районов; это лица, которые могут не находиться под федеральной защитой, но могут быть подвержены определенному вреду (например,г. , финансовые трудности).

В первом случае систематическая предвзятость в отношении защищенных классов может привести к коллективным разрозненным воздействиям , которые могут иметь основу для юридически признаваемого вреда, такого как отказ в кредите, онлайн-расовое профилирование или массовая слежка. 23 В последнем случае выходные данные алгоритма могут давать неравных результатов или неодинаковую частоту ошибок для разных групп, но они не могут нарушать правовые запреты, если не было умысла на дискриминацию.

Эти проблематичные результаты должны привести к дальнейшему обсуждению и повышению осведомленности о том, как алгоритмы работают при обработке конфиденциальной информации, а также о компромиссах между справедливостью и точностью моделей.

Алгоритмы и конфиденциальная информация

Хотя интуитивно кажется, что алгоритм может быть слеп к конфиденциальным атрибутам, это не всегда так. 24 Критики отмечают, что алгоритм может классифицировать информацию на основе онлайн-прокси для конфиденциальных атрибутов, что приводит к предубеждению против группы даже без принятия решений, непосредственно основанных на членстве в этой группе. Барокас и Селбст определяют онлайн-прокси как «факторы, используемые в процессе подсчета очков алгоритма, которые являются простыми заменителями для защищенных групп, таких как почтовый индекс в качестве прокси для расы или рост и вес в качестве прокси для пола». 25 Они утверждают, что прокси-серверы, часто связанные с алгоритмами, могут приводить как к ошибкам, так и к дискриминационным результатам, например, в случаях, когда почтовый индекс используется для определения решений о цифровом кредитовании или когда чья-то гонка вызывает несопоставимый результат. 26 Рекламная платформа Facebook содержала прокси-серверы, которые позволяли маркетологам жилья микронацеливаться на предпочтительных арендаторов и покупателей, щелкая точки данных, включая предпочтения почтового индекса. 27 Таким образом, вполне возможно, что алгоритм, который полностью слеп к чувствительному атрибуту, может на самом деле дать тот же результат, что и алгоритм, использующий атрибут дискриминационным образом.

«Хотя интуитивно приятно думать, что алгоритм может быть слеп к конфиденциальным атрибутам, это не всегда так».

Например, Amazon принял корпоративное решение исключить определенные районы из своей системы доставки Prime в тот же день. Их решение основывалось на следующих факторах: имел ли конкретный почтовый индекс достаточное количество членов Prime, находился ли он рядом со складом и имел ли достаточно людей, готовых доставлять товары по этому почтовому индексу. 28 Хотя эти факторы соответствовали модели прибыльности компании, они привели к исключению бедных, преимущественно афроамериканских кварталов, превратив эти точки данных в косвенные показатели для расовой классификации. Результаты, даже если они были непреднамеренными, дискриминировали расовые и этнические меньшинства, которые не были включены.

Аналогичным образом, алгоритм подбора работы может не получать поле пола в качестве входных данных, но он может выдавать разные оценки соответствия для двух резюме, которые отличаются только заменой имени «Мэри» на «Марк», поскольку алгоритм обучен для сделать эти различия с течением времени.

Существуют также аргументы в пользу того, что ослепление алгоритма чувствительными атрибутами может вызвать алгоритмическую предвзятость в некоторых ситуациях. Корбетт-Дэвис и Гоэл отмечают в своем исследовании алгоритма COMPAS, что даже после учета «законных» факторов риска эмпирически было обнаружено, что женщины во многих юрисдикциях совершают повторные правонарушения реже, чем мужчины. 29 Если алгоритму запрещено сообщать о разной оценке риска для двух подсудимых по уголовным делам, которые различаются только по полу, судьи могут с меньшей вероятностью освободить подсудимых женщин, чем подсудимых мужчин с равными фактическими рисками совершения другого преступления до суда.Таким образом, ослепление алгоритма от любого типа чувствительных атрибутов может не устранить предвзятость.

Хотя участники круглого стола не пришли к единому мнению об использовании онлайн-прокси в моделировании, они в основном согласились с тем, что операторы алгоритмов должны быть более прозрачными в своей работе с конфиденциальной информацией, особенно если потенциальный прокси сам по себе может представлять юридический классифицирующий вред. 30 Также обсуждалось, что использование конфиденциальных атрибутов как части алгоритма может быть стратегией обнаружения и, возможно, устранения преднамеренных и непреднамеренных предубеждений.Поскольку в настоящее время это может быть ограничено правилами конфиденциальности, такими как Общие правила защиты данных Европейского союза (GDPR) или предлагаемое федеральное законодательство США о конфиденциальности, можно привести аргумент в пользу использования регулятивных песочниц и безопасных гаваней, позволяющих использовать конфиденциальную информацию. информацию при выявлении и устранении предубеждений, оба из которых будут представлены как часть наших рекомендаций по политике.

Обнаружение смещения

При обнаружении систематической ошибки программисты обычно проверяют набор выходных данных, выдаваемых алгоритмом, на наличие аномальных результатов.Сравнение результатов для разных групп может быть полезным первым шагом. Это можно было бы сделать даже с помощью симуляций. Участник круглого стола Рич Каруана из Microsoft предложил компаниям рассмотреть возможность имитации прогнозов (как истинных, так и ложных), прежде чем применять их к реальным сценариям. «Нам почти нужен вторичный процесс сбора данных, потому что иногда модель [испускает] что-то совершенно другое», — поделился он. Например, если средний балл алгоритма подбора работы для соискателей-мужчин выше, чем для женщин, могут потребоваться дальнейшие исследования и моделирование.

Однако недостатком этих подходов является то, что не все неравные исходы несправедливы. Участник круглого стола Солон Барокас из Корнельского университета резюмировал это, заявив: «Возможно, мы обнаружим, что у нас есть очень точная модель, но она по-прежнему дает несопоставимые результаты. Это может быть прискорбно, но справедливо ли это?» Альтернативой учету неравных результатов может быть рассмотрение равенства коэффициентов ошибок и того, совершается ли больше ошибок для одной группы людей, чем для другой. По этому поводу Изабель Клуманн из Facebook поделилась, что «у общества есть ожидания. Один из них не заключает в тюрьму одну группу меньшинств непропорционально [в результате алгоритма]».

Как показали дебаты вокруг алгоритма COMPAS, даже частота ошибок не является простой лакмусовой бумажкой для необъективных алгоритмов. Компания Northpointe, разработавшая алгоритм COMPAS, опровергает заявления о расовой дискриминации. Они утверждают, что среди подсудимых, получивших одинаковую оценку высокого риска, афроамериканцы и белые обвиняемые имеют почти равные показатели рецидивизма, поэтому по этому показателю в решении алгоритма нет ошибки. 31 По их мнению, судьи могут рассматривать свой алгоритм без какой-либо ссылки на гонку в решениях об освобождении под залог.

В общем случае невозможно иметь одинаковые коэффициенты ошибок между группами для всех различных коэффициентов ошибок. 32 ProPublica сосредоточилась на одной частоте ошибок, а Northpointe — на другой. Таким образом, необходимо установить некоторые принципы, для которых коэффициенты ошибок должны быть уравнены в каких ситуациях, чтобы быть справедливыми.

Алгоритм COMPAS, который используется судьями для прогнозирования того, должны ли обвиняемые быть задержаны или освобождены под залог до суда, привлек внимание к заявлениям о потенциальной расовой дискриминации.(Фото: Stephen Lam/Reuters)

Однако различение того, как алгоритм работает с конфиденциальной информацией, и потенциальных ошибок может быть проблематичным для операторов алгоритмов, политиков и групп гражданского общества. 33 «Компании много потеряют, если мы не будем проводить различие между ними», — сказала Джули Брилл из Microsoft. По крайней мере, участники круглого стола сошлись во мнении, что алгоритмы не должны увековечивать историческое неравенство и что необходимо проделать дополнительную работу для решения проблемы онлайн-дискриминации. 34

Компромиссы справедливости и точности

Далее необходимо обсудить компромиссы и этику. Здесь внимание должно быть сосредоточено на оценке как социальных представлений о «справедливости», так и возможных социальных издержках. В своем исследовании алгоритма COMPAS Корбетт-Дэвис, Гоэл, Пирсон, Феллер и Хак видят «неотъемлемое противоречие между сведением к минимуму насильственных преступлений и удовлетворением общепринятых представлений о справедливости». 35 Они пришли к выводу, что оптимизация в интересах общественной безопасности приводит к решениям, которые наказывают цветных ответчиков, удовлетворяя при этом юридическим и социальным определениям справедливости, и могут привести к большему количеству освобождений обвиняемых с высокой степенью риска, что отрицательно скажется на общественной безопасности. 36 Кроме того, негативное воздействие на общественную безопасность может также непропорционально сильно повлиять на афроамериканцев и белых соседей, что также создает издержки справедливости.

Если цель состоит в том, чтобы избежать усиления неравенства, что тогда должны сделать разработчики и операторы алгоритмов, чтобы смягчить потенциальные предубеждения? Мы утверждаем, что разработчики алгоритмов должны в первую очередь искать способы уменьшить неравенство между группами, не жертвуя общей производительностью модели, особенно когда возникает необходимость компромисса.

Несколько участников круглого стола утверждали, что существуют возможности для улучшения справедливости и точности алгоритмов. Для программистов исследование очевидных ошибок в программном обеспечении может показать, почему модель не обеспечивает максимальной точности. Устранение этих ошибок может затем повысить общую точность. Наборы данных, которые могут быть недостаточно репрезентативными для определенных групп, могут нуждаться в дополнительных данных для обучения, чтобы повысить точность принятия решений и уменьшить количество несправедливых результатов.Эксперименты Буоламвини по обнаружению лиц являются хорошими примерами такого подхода к справедливости и точности.

Участница круглого стола

Сара Холланд из Google указала на толерантность к риску, связанную с этими типами компромиссов, когда она поделилась тем, что «[r]увеличение риска также влечет за собой поднятие вопросов справедливости». Таким образом, компании и другие операторы алгоритмов должны определить, оправданы ли социальные издержки компромиссов, вовлеченные заинтересованные стороны поддаются решению с помощью алгоритмов или необходимы лица, принимающие решения, для формулирования решения.

Этические принципы имеют значение

В основе этих компромиссов между справедливостью и точностью должны лежать обсуждения этических рамок и потенциальных барьеров для задач и систем машинного обучения. Существует несколько текущих и недавних международных и американских усилий по разработке стандартов этического управления для использования ИИ. 37 Ожидается, что в ближайшее время Организация экономического сотрудничества и развития (ОЭСР), состоящая из 35 членов, опубликует собственные рекомендации по этичному ИИ. 38 Европейский союз недавно выпустил «Руководство по этике для надежного ИИ», в котором изложены семь принципов управления: (1) человеческий фактор и надзор, (2) техническая надежность и безопасность, (3) конфиденциальность и управление данными, (4) прозрачность , (5) разнообразие, недискриминация и справедливость, (6) экологическое и общественное благополучие и (7) подотчетность. 39 Этическая система ЕС отражает четкое понимание того, что «несправедливая дискриминация» неэтична. В рамках этих руководящих принципов государства-члены связывают разнообразие и недискриминацию с принципами справедливости, обеспечивая инклюзивность и разнообразие на протяжении всего жизненного цикла системы ИИ.Их принципы интерпретируют справедливость через призму равного доступа, инклюзивных процессов проектирования и равного обращения.

Тем не менее, даже с этими усилиями правительства, все еще удивительно трудно определить и измерить справедливость. 40 Хотя не всегда возможно удовлетворить все понятия справедливости одновременно, компании и другие операторы алгоритмов должны знать, что не существует простой метрики для измерения справедливости, которую может применить инженер-программист, особенно при проектировании. алгоритмов и определение подходящего компромисса между точностью и справедливостью.Справедливость — это человеческое, а не математическое определение, основанное на общих этических убеждениях. Таким образом, алгоритмические решения, которые могут иметь серьезные последствия для людей, потребуют участия человека.

Например, несмотря на то, что несоответствия обучающих данных в алгоритме COMPAS могут быть скорректированы, человеческая интерпретация справедливости по-прежнему имеет значение. По этой причине, хотя такой алгоритм, как COMPAS, может быть полезным инструментом, он не может заменить процесс принятия решений, который остается на усмотрение арбитра-человека. 41 Мы считаем, что тщательное тестирование алгоритма может бросить вызов различным определениям честности, что является полезным упражнением для компаний и других операторов алгоритмов.

«Операторам и разработчикам алгоритмов важно всегда задавать себе вопрос: оставим ли мы некоторые группы людей в худшем положении в результате разработки алгоритма или его непредвиденных последствий?

При принятии решения о создании и выводе алгоритмов на рынок необходимо учитывать этические аспекты возможных результатов, особенно в тех областях, где правительства, гражданское общество или лица, определяющие политику, видят возможность причинения вреда и где существует риск сохранения существующих предубеждений или создания защищенных группы, более уязвимые перед существующим социальным неравенством. Вот почему операторам и разработчикам алгоритмов важно всегда задавать себе вопрос: Оставим ли мы некоторые группы людей в худшем положении в результате дизайна алгоритма или его непредвиденных последствий?

Мы предполагаем, что этот вопрос является одним из многих, которые создатели и операторы алгоритмов должны учитывать при разработке, выполнении и оценке алгоритмов, которые описаны в следующих предложениях по смягчению последствий. Наше первое предложение касается обновления U.S. законы о недискриминации, применимые к цифровому пространству.

Предложения по смягчению последствий


Законы о недискриминации и другие законы о гражданских правах должны быть обновлены, чтобы интерпретировать и компенсировать несопоставимые онлайн-воздействия

Чтобы завоевать доверие со стороны политиков, программисты, предприятия и другие операторы алгоритмов должны соблюдать законы и законодательные акты США, которые в настоящее время запрещают дискриминацию в общественных местах. Исторически сложилось так, что законы и статуты о недискриминации недвусмысленно определяют пороги и параметры неравного отношения к защищенным классам.Закон о гражданских правах 1964 года «запрещал дискриминацию по признаку пола, а также расы при приеме на работу, продвижении по службе и увольнении». Закон о справедливом жилищном обеспечении 1968 года запрещает дискриминацию при продаже, аренде и финансировании жилья, а также в других сделках, связанных с жильем, в отношении охраняемых государством классов. Закон о равных кредитных возможностях, принятый в 1974 году, не позволяет любому кредитору дискриминировать любого заявителя в отношении любого типа кредитной сделки на основании защищенных характеристик. Хотя эти законы не обязательно смягчают и устраняют другие неявные или бессознательные предубеждения, которые могут быть встроены в алгоритмы, компании и другие операторы должны остерегаться нарушения этих установленных законом ограничений при разработке алгоритмов, а также смягчать свою неявную заботу о предотвращении дискриминации в прошлом. продолжение.

Участница круглого стола Венди Андерсон из офиса конгрессмена Вэл Демингс заявила: «Обычно законодатели слышат только тогда, когда происходит что-то плохое. Нам нужно найти способ защитить тех, кто в этом нуждается, не подавляя инновации». Конгресс может разъяснить, как эти законы о недискриминации применяются к типам недовольства, недавно обнаруженным в цифровом пространстве, поскольку большинство этих законов были написаны до появления Интернета. 42 Такие законодательные действия могут обеспечить более четкие ограничения, которые срабатывают, когда алгоритмы способствуют причинению юридически признанного вреда.Более того, когда создатели и операторы алгоритмов поймут, что это могут быть более или менее не подлежащие обсуждению факторы, технический дизайн станет более продуманным в плане отказа от моделей, которые могут вызвать и усугубить явную дискриминацию, таких как рамки проектирования, которые исключают, а не включают некоторые входные данные или не проверяются на предвзятость. 43

Операторы алгоритмов должны разработать заявление о влиянии смещения

После того, как идея алгоритма будет проверена на соответствие законам о недискриминации, мы предлагаем, чтобы операторы алгоритмов разработали заявление о влиянии предубеждений, которое мы предлагаем в качестве шаблона вопросов, которые можно гибко применять, чтобы направлять их в процессе разработки, реализации и мониторинга. фазы.

В качестве практики саморегулирования заявление о влиянии на предвзятость может помочь исследовать и предотвратить любые потенциальные предубеждения, которые встроены в алгоритмическое решение или являются его результатом. В качестве наилучшей практики операторы алгоритмов должны провести мозговой штурм с основным набором первоначальных предположений о цели алгоритма до его разработки и выполнения. Мы предлагаем, чтобы операторы применяли заявление о воздействии смещения для оценки цели, процесса и производства алгоритма, где это уместно. Участники круглого стола также высказали мнение о важности создания межфункциональной и междисциплинарной группы для разработки и реализации заявления о воздействии предубеждений.

  • Институт искусственного интеллекта Нью-Йоркского университета

Институт искусственного интеллекта Нью-Йоркского университета уже представил модельную структуру, которую государственные органы могут использовать для создания алгоритмических оценок воздействия (AIA), которые оценивают потенциальные пагубные последствия алгоритма таким же образом, как окружающая среда, конфиденциальность, данные или права человека. заявления о влиянии. 44 Несмотря на то, что в зависимости от типа прогностической модели могут быть различия в реализации, AIA включает в себя несколько раундов проверки с участием внутренней, внешней и общественной аудитории. Во-первых, предполагается, что после этой проверки компания разработает список потенциального вреда или предубеждений в своей самооценке с помощью более технических внешних экспертов. Во-вторых, если кажется, что произошла предвзятость, AIA настаивает на том, чтобы уведомление было направлено затронутому населению, и был открыт период комментариев для ответа.И в-третьих, процесс AIA рассчитывает на то, что федеральные и другие организации поддержат право пользователей оспаривать алгоритмические решения, которые кажутся несправедливыми.

Несмотря на то, что процесс AIA поддерживает существенную петлю обратной связи, может отсутствовать как необходимая предусмотрительность, ведущая к решению, так и надзор за положениями алгоритма. Более того, предлагаемое нами заявление о влиянии на предвзятость начинается со структуры, которая определяет , какие автоматизированных решений должны подвергаться такой проверке, стимулированию операторов и привлечению заинтересованных сторон.

  • Какие автоматизированные решения?

В случае определения того, какие автоматизированные решения требуют такой проверки, операторы алгоритмов должны начать с вопросов о возможных негативных или непреднамеренных последствиях алгоритма, для кого и серьезности последствий для членов затронутых группа, если она не обнаружена и не устранена. Обзор установленных правовых гарантий справедливого жилья, трудоустройства, кредита, уголовного правосудия и здравоохранения должен служить отправной точкой для определения того, какие решения следует рассматривать с особой осторожностью при разработке и тестировании любого алгоритма, используемого для прогнозирования результатов или принятия важных решений о приемлемости. о доступе к льготе.Это особенно верно, учитывая юридические предписания против использования данных, которые могут оказать несоизмеримое влияние на защищаемый класс или другой установленный вред. Таким образом, мы предлагаем, чтобы операторы постоянно ставили под сомнение потенциальные юридические, социальные и экономические последствия и потенциальные обязательства, связанные с этим выбором, при определении того, какие решения следует автоматизировать и как автоматизировать их с минимальными рисками.

  • Какие стимулы для пользователей?

Стимулы также должны побуждать организации к упреждающему устранению алгоритмической предвзятости. И наоборот, операторы, которые создают и внедряют алгоритмы, обеспечивающие более справедливые результаты, также должны быть признаны политиками и потребителями, которые будут больше доверять им в их практике. Когда компании применяют эффективную алгоритмическую гигиену до, во время и после внедрения алгоритмического принятия решений, они должны быть вознаграждены и, возможно, публично признаны лучшими практиками.

  • Каким образом вовлечены заинтересованные стороны?

Наконец, последний элемент, заключенный в заявлении о влиянии на предвзятость, должен предусматривать участие заинтересованных сторон, которые могли бы помочь программистам в выборе входных и выходных данных для определенных автоматизированных решений.«Технология успешна, когда пользователи понимают продукт лучше, чем его дизайнеры», — сказал Рич Каруана из Microsoft. Вовлечение пользователей на раннем этапе и на протяжении всего процесса приведет к улучшению алгоритмов, что в конечном итоге приведет к улучшению пользовательского опыта.

Обязанности заинтересованных сторон могут также распространяться на организации гражданского общества, которые могут внести свой вклад в обсуждение структуры алгоритма. «Компании [должны] привлекать гражданское общество», — поделилась Миранда Боген из Upturn. «Иначе они пойдут со своими жалобами в прессу и к регуляторам.«Возможным решением для операторов алгоритмов может стать создание консультативного совета организаций гражданского общества, которые, работая вместе с компаниями, могут помочь в определении масштабов процедуры и прогнозировании предубеждений на основе их опыта на местах.

  • Образец заявления о воздействии предвзятости

Эти три основополагающих элемента заявления о воздействии смещения отражены в дискретном наборе вопросов, на которые операторы должны ответить на этапе проектирования, чтобы отфильтровать возможные смещения (таблица 1).В качестве саморегулируемой структуры программисты и другие операторы алгоритмов могут создавать инструменты такого типа до разработки и выполнения модели.

Таблица 1. Шаблон вопросов по составлению заявления о воздействии предвзятости
Что будет делать автоматизированное решение?
Кто является аудиторией алгоритма и на кого он больше всего повлияет?
Есть ли у нас данные для обучения, чтобы делать правильные прогнозы относительно решения?
Достаточно ли разнообразны и надежны обучающие данные? Каков жизненный цикл данных алгоритма?
Какие группы нас беспокоят, когда речь идет об ошибках обучающих данных, несопоставимой обработке и влиянии?
Как будет обнаруживаться потенциальное смещение?
Как и когда будет тестироваться алгоритм? Кто станет объектами тестирования?
Каким будет порог для измерения и корректировки смещения в алгоритме, особенно в отношении защищенных групп?
Каковы поощрения операторов?
Что мы получим при разработке алгоритма?
Каковы возможные плохие исходы и как мы об этом узнаем?
Насколько открыты (т. г., в коде или намерении) сделаем ли мы процесс разработки алгоритма внутренним партнерам, клиентам и заказчикам?
Какое вмешательство будет предпринято, если мы предскажем, что могут быть плохие результаты, связанные с разработкой или внедрением алгоритма?
Как вовлечены другие заинтересованные стороны?
Какова обратная связь по алгоритму для разработчиков, внутренних партнеров и клиентов?
Принимают ли участие организации гражданского общества в разработке алгоритма?
Учитывалось ли разнообразие при проектировании и исполнении?
Будет ли алгоритм иметь значение для культурных групп и по-разному ли действовать в культурном контексте?
Достаточно ли представительна команда разработчиков, чтобы уловить эти нюансы и предсказать применение алгоритма в различных культурных контекстах? Если нет, то какие шаги предпринимаются, чтобы сделать эти сценарии более заметными и понятными для дизайнеров?
Учитывая назначение алгоритма, достаточно ли разнообразны обучающие данные?
Существуют ли законодательные ограничения, которые компании должны пересмотреть, чтобы убедиться, что алгоритм является законным и этичным?

Разнообразие дизайна

Операторы алгоритмов также должны учитывать роль разнообразия в своих рабочих группах, данные обучения и уровень культурной чувствительности в своих процессах принятия решений. Предварительное использование разнообразия при разработке алгоритмов вызовет и потенциально предотвратит вредное дискриминационное воздействие на определенные защищенные группы, особенно на расовые и этнические меньшинства. Хотя непосредственные последствия предубеждений в этих областях могут быть незначительными, само количество цифровых взаимодействий и выводов может составить новую форму системного предубеждения. Следовательно, операторы алгоритмов не должны сбрасывать со счетов возможность или распространенность предвзятости и должны стремиться к тому, чтобы разрабатывала алгоритм разнообразная рабочая сила, интегрировать инклюзивные пространства в свои продукты или использовать «разнообразие в дизайне», когда преднамеренные и прозрачные действия будут должны быть предприняты для обеспечения того, чтобы культурные предубеждения и стереотипы устранялись заблаговременно и должным образом.Добавление инклюзивности в дизайн алгоритма может потенциально проверить культурную инклюзивность и чувствительность алгоритмов для различных групп и помочь компаниям избежать того, что может быть спорным и смущающим алгоритмическим результатом.

Заявление о влиянии на предвзятость не должно быть исчерпывающим инструментом. Для алгоритмов с более высокими ставками в процесс должен быть включен постоянный анализ их выполнения. Цель здесь состоит в том, чтобы отслеживать разрозненные воздействия, возникающие в результате модели, которые граничат с неэтичным, несправедливым и несправедливым принятием решений.Когда процесс определения и прогнозирования цели алгоритма будет достигнут, надежная петля обратной связи поможет обнаружить предвзятость, что приведет к следующей рекомендации, поощряющей регулярные проверки.

Другие передовые методы саморегулирования


Операторы алгоритмов должны регулярно проверять систематическую ошибку

Формальный и регулярный аудит алгоритмов для проверки на предвзятость — еще одна передовая практика для выявления и смягчения предвзятости. О важности этих проверок участник круглого стола Джон Клейнберг из Корнельского университета поделился тем, что «у алгоритма нет другого выбора, кроме как быть заранее обдуманным. Аудиты предполагают проверку как входных данных, так и выходных решений, а когда их проводит сторонний оценщик, они могут дать представление о поведении алгоритма. Хотя для некоторых аудитов может потребоваться техническая экспертиза, это не всегда так. Программное обеспечение для распознавания лиц, которое ошибочно идентифицирует цветных людей больше, чем белых, — это случай, когда заинтересованная сторона или пользователь могут обнаружить предвзятые результаты, ничего не зная о том, как алгоритм принимает решения. «Мы должны ожидать, что у компьютеров будет контрольный журнал», — поделилась участница круглого стола Миранда Боген из Upturn.Регулярная и тщательная проверка данных, собранных для работы алгоритма, наряду с ответами разработчиков, гражданского общества и других лиц, затронутых алгоритмом, позволит лучше выявлять и, возможно, сдерживать предубеждения.

«Разработка регулярного и тщательного аудита данных, собранных для работы алгоритма, наряду с ответами разработчиков, гражданского общества и других лиц, затронутых алгоритмом, позволит лучше выявлять и, возможно, предотвращать предубеждения».

Опыт государственных служащих округа Аллегейни свидетельствует о важности независимого аудита.В 2016 году Министерство социальных служб запустило инструмент поддержки принятия решений, Инструмент проверки семьи Аллегейни (AFST), чтобы получить оценку, по которой детей с наибольшей вероятностью заберут из дома в течение двух лет или повторно направят в специализированные учреждения. окружной службы защиты детей в связи с подозрением в жестоком обращении. Округ взял на себя ответственность за использование инструмента, работал в сотрудничестве с разработчиком и заказал независимую оценку его прямого и косвенного воздействия на процесс проверки на жестокое обращение, включая точность решений, рабочую нагрузку и последовательность.Чиновники округа также запросили у экспертов дополнительные независимые исследования, чтобы определить, дискриминирует ли программное обеспечение определенные группы. В 2017 году результаты выявили некоторые статистические диспропорции, при этом частота ошибок выше среди расовых и этнических групп. Белые дети с наивысшим риском жестокого обращения с меньшей вероятностью были изгнаны из дома по сравнению с афроамериканскими детьми с аналогичными показателями риска. 45 Округ отреагировал на эти выводы в рамках перестройки инструмента, вторая версия которого была внедрена в ноябре 2018 года. 46

Facebook недавно завершил аудит гражданских прав, чтобы определить, как он справляется с проблемами и лицами из защищенных групп. 47  После того, как стало известно, как платформа решает различные проблемы, включая подавление избирателей, модерацию контента, конфиденциальность и разнообразие, компания взяла на себя обязательство провести обновленный аудит своей внутренней инфраструктуры, чтобы справиться с жалобами на гражданские права и решить проблему разнообразия в дизайн своих продуктов по умолчанию. Недавние действия Facebook по запрету белого националистического контента или борьбе с дезинформационными кампаниями являются одними из результатов этих усилий. 48

Операторы алгоритмов должны полагаться на межфункциональные рабочие группы и опыт

Участники круглого стола в целом признали идею о том, что организации должны использовать кросс-функциональные команды. Но движение в этом направлении может быть затруднено в уже изолированных организациях, несмотря на технические, социальные и, возможно, юридические последствия, связанные с разработкой и реализацией алгоритма. Не все решения потребуют такого рода межгруппового обзора, но когда эти решения сопряжены с риском причинения реального вреда, их следует использовать.При уменьшении предвзятости и управлении рисками, связанными с алгоритмом, совместные рабочие группы могут компенсировать слепые пятна, которые часто упускаются в небольших, сегментированных беседах и обзорах. Объединение экспертов из различных отделов, дисциплин и секторов поможет внедрить стандарты и стратегии подотчетности для смягчения предубеждений в Интернете, в том числе из инженерных, юридических, маркетинговых, стратегических и коммуникационных сфер.

Кросс-функциональные рабочие группы — будь то внутренние или укомплектованные внешними экспертами — могут попытаться выявить предвзятость до и во время развертывания модели.Кроме того, партнерские отношения между частным сектором, учеными и организациями гражданского общества также могут способствовать большей прозрачности применения ИИ в различных сценариях, особенно в тех, которые затрагивают защищенные классы или распространяются в общественных интересах. Кейт Кроуфорд, исследователь ИИ и основатель AI Now Partnership, предположила, что «замкнутые петли не открыты для алгоритмического аудита, проверки или публичного обсуждения», потому что они обычно усугубляют проблемы, которые они пытаются решить. 49  Участница круглого стола Наташа Дуарте из Центра демократии и технологий рассказала о проблеме Аллегейни, поделившись: «[Компании] должны более откровенно описывать ограничения своих технологий, а правительство должно знать, какие вопросы спрашивать в своих оценках», что говорит о важности расширения сотрудничества в этой области.

Расширение участия человека в разработке и мониторинге алгоритмов

Даже со всеми перечисленными выше мерами предосторожности все еще существует некоторый риск того, что алгоритмы будут принимать предвзятые решения.Люди будут продолжать играть роль в выявлении и исправлении предвзятых результатов еще долго после того, как алгоритм будет разработан, протестирован и запущен. Хотя больше данных может дать информацию для автоматизированного принятия решений, этот процесс должен дополнять, а не полностью заменять человеческое суждение. Участник круглого стола Алекс Пейсахович из Facebook поделился: «Нам не нужно устранять модераторов-людей. Нам нужно нанять больше и заставить их сосредоточиться на крайних случаях». Такое мнение становится все более важным в этой области, поскольку сравнительные преимущества людей и алгоритмов становятся все более различимыми, а использование обоих улучшает результаты для онлайн-пользователей.

Люди будут продолжать играть роль в выявлении и исправлении предвзятых результатов еще долго после того, как алгоритм будет разработан, протестирован и запущен. (Фото: Габриэль Лурье/Reuters)

Однако последствия для конфиденциальности возникнут, когда все больше людей будут участвовать в управлении алгоритмами, особенно если более конфиденциальная информация будет задействована в создании модели или в проверке предсказаний алгоритма на предвзятость. Время проведения круглых столов, которые также были связаны с принятием GDPR ЕС, говорило о необходимости усиления принципов конфиденциальности потребителей, когда пользователи имеют право выбирать, какими данными они хотят делиться с компаниями.Поскольку США в настоящее время обсуждают необходимость федерального законодательства о конфиденциальности, доступ к персональным данным и их использование могут стать еще более сложными, что может сделать алгоритмические модели более предвзятыми. Поскольку ценности создателей и пользователей алгоритмов со временем меняются, люди должны разрешать конфликты между результатами и заявленными целями. В дополнение к периодическим проверкам участие человека обеспечивает непрерывную обратную связь о выполнении усилий по уменьшению предвзятости.

Другие рекомендации по государственной политике

Как указано в документе, политики играют решающую роль в выявлении и устранении предубеждений, обеспечивая при этом, чтобы технологии продолжали приносить положительные экономические и социальные выгоды.

Конгресс должен внедрить регулятивные песочницы и безопасные гавани, чтобы обуздать онлайн-предвзятость

Регуляторные песочницы воспринимаются как одна из стратегий создания временных отсрочек от регулирования, позволяющих технологии и правилам, связанным с ее использованием, развиваться вместе. Эти политики могут применяться к алгоритмической предвзятости и другим областям, где рассматриваемая технология не имеет аналога, подпадающего под действие существующих правил. Вместо того, чтобы расширять рамки существующих правил или создавать правила в ожидании потенциального вреда, песочница позволяет внедрять инновации как в технологии, так и в ее регулирование.Даже в строго регулируемой отрасли создание «песочниц», в которых можно тестировать инновации, наряду с более легким регулированием, может принести пользу.

«Вместо того, чтобы расширять рамки существующих правил или создавать правила с учетом потенциального вреда, песочница позволяет внедрять инновации как в технологии, так и в ее регулирование».

Например, компании финансового сектора, которые используют технологии или финтех, продемонстрировали, как регулятивные песочницы могут стимулировать инновации в разработке новых продуктов и услуг. 50 Эти компании широко используют алгоритмы во всем: от обнаружения мошенничества до принятия решения о предоставлении кредита. Некоторые из этих действий повторяют действия обычных банков, и они по-прежнему будут подпадать под существующие правила, но в песочнице будут разрешены новые подходы к решению задач. 51  Поскольку песочницы дают новаторам большую свободу действий при разработке новых продуктов и услуг, они потребуют активного контроля, пока не созреют технологии и правила. Министерство финансов США недавно сообщило не только о преимуществах, которые реализовали страны, принявшие регулятивные песочницы в сфере финансовых технологий, но и рекомендовало США. S. внедрить финтех-песочницы, чтобы стимулировать инновации. 52  Учитывая широкую полезность алгоритмов для стимулирования инноваций в различных регулируемых отраслях, участники круглых столов рассмотрели потенциальную полезность распространения регулятивных песочниц на другие области, где алгоритмы могут помочь стимулировать инновации.

Можно также использовать «безопасные гавани» регулирующих органов, когда регулирующий орган может указать, какие виды деятельности не нарушают существующие правила. 53  Преимущество этого подхода заключается в повышении нормативной определенности для разработчиков алгоритмов и операторов.Например, раздел 230 Закона о приличии в коммуникациях снимает с веб-сайтов ответственность за действия их пользователей, что широко приписывают рост таких интернет-компаний, как Facebook и Google. Позже это исключение было сужено, чтобы исключить торговлю людьми в целях сексуальной эксплуатации с принятием Закона о запрещении торговли людьми в целях сексуальной эксплуатации в Интернете и Закона о борьбе с торговлей людьми в целях сексуальной эксплуатации в Интернете. Применение аналогичного подхода к алгоритмам может освободить их операторов от ответственности в определенных контекстах, сохраняя при этом защиту в других, где ущерб легче выявить.В соответствии с предыдущим обсуждением использования определенных защищенных атрибутов, безопасные гавани могут быть рассмотрены в случаях, когда сбор конфиденциальной личной информации используется для конкретных целей обнаружения и смягчения предвзятости.

Потребители нуждаются в повышении алгоритмической грамотности

Широко распространенная алгоритмическая грамотность имеет решающее значение для смягчения предвзятости. Учитывая более широкое использование алгоритмов во многих аспектах повседневной жизни, всем потенциальным субъектам автоматизированных решений было бы полезно знать, как эти системы функционируют.Точно так же, как компьютерная грамотность в настоящее время считается жизненно важным навыком в современной экономике, скоро может стать необходимым понимание того, как алгоритмы используют свои данные.

Субъекты автоматизированных решений заслуживают того, чтобы знать, когда предвзятость негативно влияет на них, и как реагировать, когда это происходит. Отзывы пользователей могут делиться и предвидеть области, в которых может проявляться предвзятость в существующих и будущих алгоритмах. Со временем создатели алгоритмов могут активно запрашивать отзывы у широкого круга субъектов данных, а затем предпринимать шаги по информированию общественности о том, как работают алгоритмы, чтобы помочь в этих усилиях.Государственные агентства, которые регулируют предвзятость, также могут работать над повышением алгоритмической грамотности в рамках своей миссии. Как в государственном, так и в частном секторе те, кто может больше всего потерять от необъективного принятия решений, также могут сыграть активную роль в его выявлении.

Заключение

В декабре 2018 года президент Трамп подписал Закон о первом шаге, новый закон об уголовном правосудии, поощряющий использование алгоритмов по всей стране. 54  В частности, система будет использовать алгоритм для первоначального определения того, кто может использовать кредиты за отработанное время — сокращение срока наказания за завершение образовательных, профессиональных или реабилитационных программ — за исключением заключенных, считающихся повышенным риском.Существует вероятность того, что эти алгоритмы увековечат расовые и классовые различия, которые уже встроены в систему уголовного правосудия. В результате афроамериканцы и бедняки в целом с большей вероятностью будут отбывать более длительные сроки тюремного заключения.

«Когда алгоритмы разработаны ответственно, они могут избежать печальных последствий усиленной системной дискриминации и неэтичных приложений».

Как указано в документе, эти типы алгоритмов должны вызывать беспокойство, если не существует процесса, который включает в себя техническое усердие, справедливость и справедливость от проектирования до исполнения.То есть, когда алгоритмы разработаны ответственно, они могут избежать неблагоприятных последствий усиленной системной дискриминации и неэтичных приложений.

Некоторые решения будут лучше приниматься с помощью алгоритмов и других инструментов ИИ, в то время как другие могут потребовать тщательного рассмотрения до разработки компьютерных моделей. Кроме того, тестирование и проверка определенных алгоритмов также выявляют и, в лучшем случае, смягчают последствия дискриминации. Для операторов алгоритмов, стремящихся снизить риск и осложнения плохих результатов для потребителей, продвижение и использование предложений по смягчению последствий может создать путь к алгоритмической справедливости, даже если справедливость никогда не будет полностью реализована.


Институт Брукингса — некоммерческая организация, занимающаяся независимыми исследованиями и политическими решениями. Его миссия состоит в том, чтобы проводить высококачественные независимые исследования и на основе этих исследований предоставлять новаторские практические рекомендации для политиков и общественности. Выводы и рекомендации любой публикации Brookings принадлежат исключительно ее автору (авторам) и не отражают точку зрения Учреждения, его руководства или других ученых.

Amazon, Facebook, Google, IBM и Microsoft предоставляют общую неограниченную поддержку The Brookings Institution.Пол Резник также является консультантом Facebook, но эта работа независима, и его взгляды, выраженные здесь, являются его собственными. На результаты, интерпретации и выводы, опубликованные в этой статье, никакие пожертвования не повлияли. Brookings признает, что ценность, которую она предоставляет, заключается в абсолютной приверженности качеству, независимости и влиянию. Мероприятия, поддерживаемые его донорами, отражают это обязательство.


Приложение: Список участников круглого стола

Участник Организация
Венди Андерсон Офис конгрессмена Вэл Демингс
Норберто Андраде Фейсбук
Солон Барокас Корнельский университет
Джинни Бартон Джин конфиденциальности
Рикардо Баэса-Йейтс НТЕНТ
Миранда Боген Подъем
Джон Брешиа Бюро по улучшению бизнеса
Джули Брилл Майкрософт
Рич Каруана Исследование Майкрософт
Эли Коэн Институт Брукингса
Анупам Датта Карнеги-Меллон
Девен Десаи Технологический институт Джорджии
Наташа Дуарте Центр демократии и технологий
Надя Фаваз LinkedIn
Лаура Фрагомени Глобальная электронная коммерция Walmart
Шарад Гоэль Стэнфордский университет
Скотт Голдер Корнельский университет
Аарон Халфакер Викимедиа
Сара Холланд Гугл
Джек Карстен Институт Брукингса
Кришнарам Кентхапади LinkedIn и Стэнфордский университет
Джон Клейнберг Корнельский университет
Изабель Клуманн Фейсбук
Джейк Меткалф Этическая решимость
Алексей Пейсахович Фейсбук
Пол Резник Мичиганский университет
Уильям Райнхарт Американский форум действий
Алекс Розенблат Данные и общество
Джейк Шнайдер Институт Брукингса
Джасжит Секхон Калифорнийский университет в Беркли
Роб Шерман Фейсбук
Джоанн Стонье Mastercard по всему миру
Никол Тернер Ли Институт Брукингса
Люси Вассерман Проект Jigsaw’s Conversation AI / Google
Суреш Венкатасубраманян Университет Юты
Джон Верди Будущее форума конфиденциальности
Хизер Уэст Мозилла
Джейсон Йосинки Убер
Джиньян Занг Гарвардский университет
Лейла Зия Фонд Викимедиа

Каталожные номера

Ангвин, Джулия и Терри Пэррис-мл. «Facebook позволяет рекламодателям исключать пользователей по расовому признаку». Текст/html. ProPublica, 28 октября 2016 г. https://www.propublica.org/article/facebook-lets-advertisers-exclude-users-by-race.

Ангвин, Джулия, Джефф Ларсон, Сурья Матту и Лаура Киршнер. «Машинный уклон». ProPublica, 23 мая 2016 г. Доступно по адресу https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (последний доступ 19 апреля 2019 г.).

Барокас, Солон и Эндрю Д. Селбст, «Разрозненное воздействие больших данных», научная статья SSRN (Рочестер, штат Нью-Йорк: Исследовательская сеть социальных наук, 2016 г.).Доступно по адресу https://papers.ssrn.com/abstract=2477899.

Бласс, Андреа и Юрий Гуревичи. Алгоритмы: поиск абсолютных определений. Бюллетень Европейской ассоциации теоретической информатики 81, 2003 г. https://www.microsoft.com/en-us/research/wp-content/uploads/2017/01/164.pdf (последний доступ 12 апреля 2019 г.).

Бреннан, Тим, Уильям Дитрих и Беата Эрет. «Оценка прогностической достоверности системы оценки рисков и потребностей COMPAS». Уголовное правосудие и поведение 36 (2009): 21–40.

Чессел, Мэнди. «Этика больших данных и аналитики». IBM, nd Доступно по адресу https://www.ibmbigdatahub.com/sites/default/files/whitepapers_reports_file/TCG%20Study%20Report%20-%20Ethics%20for%20BD%26A.pdf (последний доступ 19 апреля 2019 г.).

Ходош, Сара. «Суды используют алгоритмы для вынесения приговора, но случайные люди получают одинаковые результаты». Popular Science, 18 января 2018 г. Доступно по адресу https://www.popsci.com/recidivism-algorithm-random-bias (последний доступ 15 октября 2018 г.).

Корбетт-Дэвис, Сэм, Эмма Пирсон, Ави Феллер и Шарад Гоэль. «Компьютерная программа, используемая для вынесения залога и вынесения приговора, была названа предвзятой по отношению к чернокожим. На самом деле это не так уж и ясно». Washington Post (блог), 17 октября 2016 г. Доступно по адресу https://www.washingtonpost.com/news/monkey-cage/wp/2016/10/17/can-an-algorithm-be-racist-our-analysis. -is-more-cautious-than-propublicas/ (последний доступ 19 апреля 2019 г.).

Корбетт-Дэвис, Сэм, Эмма Пирсон, Ави Феллер, Шарад Гоэль и Азиз Хук.«Алгоритмическое принятие решений и цена справедливости». ArXiv:1701.08230 [Cs, Stat], 27 января 2017 г. https://doi.org/10.1145/3097983.309809.

Кортленд, Рэйчел. «Детективы предвзятости: исследователи, стремящиеся сделать алгоритмы справедливыми», Nature 558, вып. 7710 (июнь 2018 г.): 357–60. Доступно по адресу https://doi.org/10.1038/d41586-018-05469-3 (последний доступ 19 апреля 2019 г.).

ДеАнгелиус, Стивен Ф. «Искусственный интеллект: как алгоритмы делают системы умными», журнал Wired, сентябрь 2014 г.Доступно по адресу https://www.wired.com//insights/2014/09/artificial-intelligence-algorithms-2/ (последний доступ 12 апреля 2019 г.).

Элехальде-Руис, Алексия. «Конец резюме? Наем происходит в разгар технологической революции с алгоритмами, чат-ботами». Чикаго Трибьюн (19 июля 2018 г.). Доступно на http://www. chicagotribune.com/business/ct-biz-artificial-intelligence-hiring-20180719-story.html.

Юбэнкс, Вирджиния. «Модель прогнозирования жестокого обращения с детьми не помогает бедным семьям», Wired, 15 января 2018 г.Доступно по адресу https://www.wired.com/story/excerpt-from-automating-inequality/ (последний доступ 19 апреля 2019 г.).

FTC Слушание № 7: Проблемы конкуренции и защиты прав потребителей в отношении алгоритмов, искусственного интеллекта и прогнозной аналитики, § Федеральная торговая комиссия (2018 г.). https://www.ftc.gov/system/files/documents/public_events/1418693/ftc_hearings_session_7_transcript_day_2_11-14-18.pdf.

Гарбейд, Майкл Дж. «Устранение путаницы: ИИ, машинное обучение и различия глубокого обучения», На пути к науке о данных, 14 сентября 2018 г.Доступно по адресу https://towardsdatascience//clearing-the-confusion-ai-vs-machine-learning-vs-deep-learning-differences-fce69b21d5eb (последний доступ 12 апреля 2019 г.).

Григгс против Duke Power Company, Ойез. Доступно по адресу https://www.oyez.org/cases/1970/124 (последний доступ 1 октября 2018 г.

).

Герен, Лиза. «Разрозненная дискриминация воздействия». www.nolo.com. Доступно по адресу https://www.nolo.com/legal-encyclopedia/disparate-impact-disparation.htm (последний доступ 24 апреля 2019 г.).

Хадхази, Адам.«Предвзятые боты: системы искусственного интеллекта повторяют человеческие предубеждения». Принстонский университет, 18 апреля 2017 г. Доступно по адресу https://www.princeton.edu/news/2017/04/18/biased-bots-artificial-intelligence-systems-echo-human-prejudices (последний доступ 20 апреля 2019 г.). ).

Гамильтон, Изобель Эшер. «Почему совершенно неудивительно, что рекрутинговый ИИ Amazon был настроен против женщин». Business Insider, 13 октября 2018 г. Доступно по адресу https://www.businessinsider.com/amazon-ai-biased-against-women-no-surprise-sandra-wachter-2018-10 (последний доступ 20 апреля 2019 г.).

Хардести, Ларри. «Исследование выявило предвзятость по признаку пола и типа кожи в коммерческих системах искусственного интеллекта». MIT News, 11 февраля 2018 г. Доступно по адресу http://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212 (последний доступ 19 апреля 2019 г.).

Группа экспертов высокого уровня по искусственному интеллекту. «Этические рекомендации для надежного ИИ (проект)». Европейская комиссия, 18 декабря 2018 г.

Ингольд, Дэвид и Спенсер Соупер. «Amazon не учитывает расовую принадлежность своих клиентов.Должно ли это быть?» Bloomberg.com, 21 апреля 2016 г. http://www.bloomberg.com/graphics/2016-amazon-same-day/.

Кернс, Майкл. «Конфиденциальность данных, машинное обучение и конфиденциальность потребителей». Юридический факультет Пенсильванского университета, май 2018 г. Доступно по ссылке https://www.law.upenn.edu/live/files/7952-kearns-finalpdf (последний доступ 12 апреля 2019 г.).

Клейнберг, Джон, Сендхил Муллайнатан и Маниш Рагхаван, «Неотъемлемые компромиссы в справедливом определении оценок риска». В Трудах инноваций в теоретической информатике (ITCS), 2017. Доступно по адресу https://arxiv.org/pdf/1609.05807.pdf (последний доступ 19 апреля 2019 г.).

Ларсон, Джефф, Сурья Матту и Джулия Ангвин. «Непреднамеренные последствия географического таргетинга». Technology Science, 1 сентября 2015 г. Доступно по адресу https://techscience.org/a/20150

/ (последний доступ 19 апреля 2019 г.).

Локлир, Мэллори. «Facebook выпускает обновленную информацию о своей проверке гражданских прав». Engadget (блог), 18 декабря 2018 г. Доступно по адресу https://www.engadget.com/2018/12/18/facebook-update-civil-rights-audit/ (последний доступ 19 апреля 2019 г.).

Лопес, немец. «Закон о первом шаге, законопроект Конгресса о реформе уголовного правосудия, объяснение». Vox, 3 декабря 2018 г. Доступно по адресу https://www.vox.com/future-perfect/2018/12/3/18122392/first-step-act-criminal-justice-reform-bill-congress (последний доступ в апреле 16, 2019).

Мнучин, Стивен Т. и Крейг С. Филлипс. «Финансовая система, создающая экономические возможности — небанковские финансы, финтех и инновации». Вашингтон, округ Колумбия: Министерство финансов США, июль 2018 г.Доступно по адресу https://home.treasury.gov/sites/default/files/2018-08/A-Financial-System-that-Creates-Economic-Opportunities—Nonbank-Financials-Fintech-and-Innovation_0.pdf (последний доступ 19 апреля 2019 г.).

Райсман, Диллон, Джейсон Шульц, Кейт Кроуфорд и Мередит Уиттакер. «Алгоритмическая оценка воздействия: практическая основа подотчетности государственных органов». Нью-Йорк: AI Now, апрель 2018 г.

Ромеи, Андреа и Сальваторе Руджери. «Анализ данных о дискриминации: междисциплинарная библиография.В книге «Дискриминация и неприкосновенность частной жизни в информационном обществе», под редакцией Барта Кастерса, Т. Колдерса, Б. Шермера и Т. Зарского, стр. 109–35. Исследования в области прикладной философии, эпистемологии и рациональной этики. Springer, Berlin, Heidelberg, 2013. Доступно по адресу https://doi.org/10.1007/978-3-642-30487-3_6 (последний доступ 19 апреля 2019 г.).

Шац, Брайан. Закон об искусственном интеллекте в правительстве от 2018 г., опубл. Л. № С.Б. 3502 (2018). https://www.congress.gov/bill/115th-congress/senate-bill/3502.

Шпилькамп, Матиас.«Нам нужно пролить больше света на алгоритмы, чтобы они могли помочь уменьшить предвзятость, а не увековечить ее». Обзор технологий Массачусетского технологического института. По состоянию на 20 сентября 2018 г. Доступно по адресу https://www.technologyreview.com/s/607955/inspecting-algorithms-for-bias/ (последний доступ 19 апреля 2019 г.).

Стэк, Лиам. «Facebook объявляет о новой политике запрета контента белых националистов». The New York Times, 28 марта 2019 г., с. Бизнес. Доступно по адресу https://www.nytimes.com/2019/03/27/business/facebook-white-nationalist-supremacist.html (последний доступ 19 апреля 2019 г.).

Суини, Латанья и Джиньян Занг. «Насколько уместными могут быть решения по аналитике больших данных при размещении рекламы?» Презентация Powerpoint, представленная на конференции Федеральной торговой комиссии «Большие данные: инструмент для включения или исключения», Вашингтон, округ Колумбия. 15 сентября 2014 г. Доступно по адресу https://www.ftc.gov/systems/files/documents/public_events/313371/bigdata-slides-sweeneyzang-9_15_14.pdf (последний доступ 12 апреля 2019 г.).

Суини, Латания. «Дискриминация в доставке онлайн-рекламы.Рочестер, штат Нью-Йорк: Сеть исследований в области социальных наук, 28 января 2013 г. Доступно по адресу https://papers.ssrn.com/abstract=2208240 (последний доступ 12 апреля 2019 г.).

Сиделл, Лора. «Это не я, детка: исследователи нашли недостатки в полицейской технологии распознавания лиц». NPR.org, 25 октября 2016 г. Доступно по адресу https://www.npr.org/sections/alltechconsidered/2016/10/25/499176469/it-aint-me-babe-researchers-find-flaws-in-police. -facial-recognition (последний доступ 19 апреля 2019 г.).

«Глобальный проект по этике данных.Данные для демократии, н.д. https://www.datafordemocracy.org/project/global-data-ethics-project (последний доступ 19 апреля 2019 г.).

Тобин, Ариана. «HUD подает в суд на Facebook из-за жилищной дискриминации и говорит, что алгоритмы компании усугубили проблему». ProPublica (28 марта 2019 г.). Доступно по адресу https://www.propublica.org/article/hud-sues-facebook-housing-distribution-advertising-algorithms (последний доступ 29 апреля 2019 г.).

Тернер Ли, Никол. «Включение в технологии: как разнообразие приносит пользу всем американцам», § Подкомитет по защите прав потребителей и торговле, Комитет Палаты представителей США по энергетике и торговле (2019 г.).Также доступно на веб-сайте Brookings: https://www.brookings.edu/testimonies/inclusion-in-tech-how-diversity-benefits-all-americans/ (последний доступ 29 апреля 2019 г.).

Тернер Ли, Никол. Обнаружение расовой предвзятости в алгоритмах и машинном обучении. Журнал информации, коммуникации и этики в обществе 2018, Vol. 16 Выпуск 3, стр. 252-260. Доступно по адресу https://doi.org/10.1108/JICES-06-2018-0056/ (последний доступ 29 апреля 2019 г.).

«Понимание предвзятости в алгоритмическом дизайне», Impact.Engineered, 5 сентября 2017 г. Доступно по адресу https://medium. com/impact-engineered/understanding-bias-in-algorithmic-design-db9847103b6e (последний доступ 12 апреля 2019 г.).

Винсент, Джеймс. «По сообщениям, Amazon отказывается от внутреннего инструмента рекрутинга с использованием искусственного интеллекта, который был предвзят в отношении женщин». The Verge, 10 октября 2018 г. Доступно по адресу https://www.theverge.com/2018/10/10/17958784/ai-recruiting-tool-bias-amazon-report (последний доступ 20 апреля 2019 г.).

Зафар, Мухаммад Билал, Изабель Валера Мартинес, Мануэль Гомес Родригес и Кришна Гуммади.«Ограничения справедливости: механизм справедливой классификации». В материалах 20-й Международной конференции по искусственному интеллекту и статистике (AISTATS). Форт-Лодердейл, Флорида, 2017 г.

Зарский, Тал. «Понимание дискриминации в рейтинговом обществе». Научная статья SSRN. Рочестер, штат Нью-Йорк: Сеть исследований в области социальных наук, 15 января 2015 г. https://papers.ssrn.com/abstract=2550248.

Участие в программе

MSSP после недавних изменений правил: что это нам говорит?

Запущенная Центрами услуг Medicare и Medicaid (CMS) в 2012 году программа общих сбережений Medicare (MSSP) является крупнейшей инициативой организации подотчетной медицинской помощи (ACO) Medicare и основным направлением усилий по переходу от платы за услугу к альтернативные модели оплаты. Существующие данные говорят о скромном успехе: ACO немного сократили расходы — даже с учетом премиальных выплат — и, похоже, они улучшили, по крайней мере, некоторые аспекты качества медицинской помощи. Более того, сбережения, по-видимому, растут, по крайней мере, для ACO, сформированных независимыми врачебными группами.

Окончательный успех программы будет зависеть от добровольного участия поставщиков медицинских услуг. Однако недавно опубликованные данные CMS об участии MSSP в 2019 году вызывают опасения, что теперь программа стала гораздо менее привлекательной для провайдеров.В период с 2012 по 2018 год чистое число участвующих ACO росло каждый год, при этом количество организаций, вступивших в программу, значительно превысило количество выбывших из программы. Однако в 2019 году количество организаций-участников впервые за всю историю программы сократилось из-за рекордно большого количества ACO, вышедших из программы, и рекордно низкого числа вступивших (рисунок 1). Другие уже указывали, насколько тревожным может быть сокращение участия для MSSP. Чтобы понять последствия изменений участия в расходах Medicare, важно понять факторы, влияющие на решение об участии, особенно те, которые связаны с параметрами полиса. В конце концов, поставщики должны участвовать в программе, чтобы сэкономить деньги Medicare.  

Приложение 1: Вход и выход из накопительной программы Medicare по годам

 

Источник: анализ данных Центров услуг Medicare и Medicaid, проведенный авторами.  

Модели участия

На сегодняшний день в MSSP поступило семь когорт ACO (2013 год стал первым полным годом участия участников 2012 года, которое началось в середине 2012 года). Все когорты значительно выбыли из программы после нескольких лет участия (пример 2), при этом показатель отсева увеличился в четвертый и седьмой годы программы, которые были годами продления контракта. (До 2019 года период действия контракта MSSP длился три года, а сейчас для всех новых контрактов составляет пять лет. ) В годы без продления в среднем только 5 процентов ACO выходят из программы. Однако в годы продления средний показатель ухода возрастает до 28 процентов. В совокупности такое поведение приводит к значительному исходу с течением времени внутри каждой когорты. Например, по состоянию на 2019 год в программе остается менее 40 процентов первоначальной когорты 2012–2013 годов, хотя несколько организаций перешли на другие программы ACO.  

Приложение 2: Показатели участия по когорте

 

Источник: анализ данных Центров услуг Medicare и Medicaid, проведенный авторами.  

Параметры программы, способствующие снижению участия

Ранее мы выражали озабоченность по поводу той роли, которую три конкретных параметра программы играют в решениях ACO о начале или возобновлении участия: изменение базисных показателей, регионализация ориентиров и введение риска ухудшения ситуации. Специфический когортный анализ на рисунке 2 поддерживает эти опасения. В частности, 45 процентов ACO в когорте 2016 года, которые не вышли из программы до продления, вышли из программы в 2019 году, когда они должны были перебазироваться в соответствии с новой методологией «Пути к успеху», которая ускоряет регионализация и риск снижения.Почти треть ACO, оставшихся из когорты 2012–2013 годов, единственной другой когорты, подлежащей перебазированию с региональной корректировкой в ​​соответствии с новыми правилами в 2019 году, вышли в 2019 году. история программы и единственные две когортные показатели выхода в 2019 году, превышающие историческую норму. Это должно вызвать беспокойство в следующем году (2020 г.), когда еще 153 ACO из групп 2014 и 2017 гг. должны будут продлить контракты и перебазироваться в соответствии с Pathways.  

Перебазировка

Перебазирование относится к практике снижения целевых показателей расходов или контрольных показателей ACO при продлении контракта на основе расходов, наблюдаемых в течение предыдущего периода действия соглашения. Перебазирование позволяет Medicare досрочно извлекать сбережения из программы. Тем не менее, мы считаем, что перебазирование, вероятно, в целом глупо.

В частности, храповой эффект изменения базы уменьшает стимул для ACO к сбережениям. Вознаграждение за снижение расходов в одном периоде компенсируется перспективой уменьшения вознаграждения или финансовых штрафов в последующем периоде при более низком, перебазированном контрольном показателе.Со временем изменение эталонных показателей может привести к тому, что у ACO останется мало возможностей для дальнейшей экономии. Точно так же увеличение расходов в один период вознаграждается будущим увеличением эталона (и, следовательно, большей вероятностью получения бонусов) в следующем периоде. Эта динамика не только препятствует сбережениям, но и может препятствовать участию. Степень, в которой это препятствует участию, остается неизвестной, но изменение базы может существенно способствовать всплескам ухода в годы продления.

Регионализация

Регионализация относится к практике установления контрольных показателей на основе расходов ACO по сравнению с другими поставщиками услуг в его регионе в дополнение к его собственным историческим расходам. Это может усилить стимулы к сбережениям, поскольку на региональные контрольные показатели лишь частично влияет собственное поведение ACO в отношении сбережений. Более того, регионализация в принципе привлекательна для тех, кто считает, что все ACO на одном рынке должны соответствовать одному стандарту. Однако регионализация негативно влияет на АСО с высокими расходами с поправкой на риск для своего региона, которые обладают наибольшим потенциалом экономии, и может препятствовать их участию. И наоборот, он субсидирует ACO с более низкими расходами с поправкой на риск по сравнению с их регионом, назначая им более высокие ориентиры, чем их исторические расходы оправдывают.При наличии неадекватной корректировки риска регионализация также перемещает ресурсы между организациями в зависимости от пациентов, которых они обслуживают, а не от их эффективности.

Хотя совместное влияние продления контракта и изменения базы на выход из программы невозможно окончательно разделить, мы можем эмпирически наблюдать, что регионализация подчеркивает взаимосвязь между продлением и выходом: 30 процентов ACO в когортах, для которых изменение базы сопровождалось процессом региональной корректировки, вышли в годы продления контракта (годы продления 2017–2019), в то время как только 23 процента ACO, которые не подверглись регионализации при изменении базы, вышли (год продления 2016).

Однако, как отмечалось выше, влияние регионализации на участие ACO зависит от организационных расходов по отношению к региону. Чтобы проиллюстрировать это явление, мы рассчитали коэффициент выхода для ACO в самом высоком и самом низком квартилях отклонения расходов ACO от их региона в годы продления, когда они столкнулись с регионализацией. На рисунке показаны проценты выходов при продлении контракта для этих ACO с высокими и низкими расходами, когда они столкнулись с перспективой регионализации при продлении (объединены по когортам).АСО с расходами выше своего региона выбывали чаще, чем те с расходами ниже своего региона, что согласуется с теорией о том, что регионализация препятствует участию АСО с высокими расходами и субсидирует АСО с низкими расходами.

Приложение 3. Доля выходов из программы Medicare Shared Savings во время продления с разбивкой по расходам в зависимости от региона

 

Источник: анализ данных Центров услуг Medicare и Medicaid, проведенный авторами.  

Мало того, что люди с высокими расходами по сравнению с регионом уходили с большей скоростью, профиль новых участников изменился после того, как в 2016 году было объявлено о регионализации, которая вступит в силу в 2017 году.Мы рассчитали отклонение расходов каждого ACO по сравнению с его регионом в базовый период (за три года до входа в MSSP) на основе методологии назначения CMS и наметили, как отклонения расходов новичков менялись с течением времени. На рис. 4 показано, что до 2016 года расходы организаций, вступивших в MSSP, обычно были в среднем немного выше, чем в их регионах, но в 2017 году, после объявления о регионализации, расходы участников в среднем были значительно выше. ниже своих регионов.Это говорит об упреждающем эффекте регионализации: те, кто тратит больше, не поощрялись к входу, а те, кто тратил меньше, были заинтересованы в этом. Возможно, это сделало MSSP более успешным с точки зрения экономии средств, поскольку для оценки производительности используются контрольные показатели; тем не менее, эта модель выбора фактически увеличивает расходы Medicare (по сравнению с контрфактическим отсутствием MSSP) и может привести к тому, что программа превратится в субсидию для поставщиков с низкими расходами.  

Доказательство 4. Отклонения в расходах перед вступлением в программу Medicare Shared Savings по когортам

 

Источник: авторский анализ данных центров Medicare и Medicaid Services S.  

Риск убытков

Риск снижения относится к требованию о том, чтобы ACO, расходы которых превышают контрольный показатель в определенной степени, возмещали правительству часть разницы между расходами и контрольным показателем. Это повышает ставки для ACO и может усилить влияние перебазирования и регионализации на участие. Несмотря на общее мнение о том, что риск убытков увеличивает сбережения ACO, существует мало строгих доказательств в поддержку таких утверждений. Поскольку до сих пор на ACO возлагался небольшой риск снижения, у нас также мало оснований судить о его влиянии на участие, хотя всплеск выхода с появлением Pathways предполагает, что перспектива риска снижения могла способствовать выходу.

Влияние на потенциал сбережений

Взаимосвязь между сбережениями и участием в программе играет центральную роль в оценке влияния выборочного выхода на программу. Чтобы оценить эту взаимосвязь, важно отметить, что истинная экономия ACO не определяется разницей между его эталоном и его расходами. Вместо этого экономия должна определяться на основе гипотетической оценки расходов, ожидаемых для бенефициаров ACO при отсутствии стимулов программы ACO.Наша предыдущая работа по изучению программы Pioneer ACO показала, что выбывшие ACO спасли Medicare в той же степени, что и продолжающие участие организации, но им не рекомендовалось продолжать участие в правилах, касающихся обновления эталонных показателей и атрибуции. Это означает, что правила программы, влияющие на участие, не имеют тесной связи с экономией ACO или потенциалом экономии. Мы также зафиксировали, что ACO, выбывшие из программы MSSP, сэкономили столько же, сколько и те, кто остался в программе, и выразили обеспокоенность тем, что контрпродуктивные модели выхода будут хуже в рамках программы «Пути к успеху».Нас больше всего беспокоит как перебазирование, так и регионализация, поскольку они препятствуют вхождению и усугубляют выход среди групп поставщиков, которые могли бы сэкономить, если бы участвовали в слегка реструктурированной программе. Описанные выше паттерны, в частности высокие показатели выхода из программы для тех, кто тратит больше средств, которые, следовательно, имеют больший потенциал сбережений, согласуются с нашими теоретическими ответами и предполагают, что недавнее сообщение об увеличении сбережений MSSP в 2018 году (на основе контрольных сравнений) может быть завышено. Хотя мы не смогли изучить влияние негативного риска на участие, поскольку он еще не применялся в больших масштабах в программе MSSP, мы также хотели бы предостеречь заинтересованные стороны, чтобы они не позволяли инстинктивной привлекательности негативного риска толкать нас дальше, чем факты.Пока перебазирование и регионализация приводят к несогласованным стимулам, дополнительный риск убытков может просто усугубить отрицательные стимулы к участию.

Выводы

Теоретически программы ACO предлагают модель оплаты, которая побуждает системы доставки внедрять инновации, повышающие эффективность, которые могут помочь им процветать в мире с низким ростом комиссий. На самом деле, оценки программы предполагают, по крайней мере, скромный потенциал успеха. Тем не менее, способность программы ACO выполнить это обещание зависит от параметров модели и участия поставщиков, особенно высокооплачиваемых, где возможности экономии являются самыми большими.

Существующие модели участия вызывают беспокойство, и наш анализ показывает, что правила программы могут играть большую роль в наблюдаемой тенденции. Например, перебазирование препятствует сбережениям и может препятствовать участию. Хотя это позволяет Medicare досрочно извлекать сбережения из программы, перебазирование может быть контрпродуктивным. Регионализация также может повредить участию, особенно среди наиболее важных для программы организаций, обладающих наибольшим потенциалом реальной экономии.По общему признанию, равенство требует некоторой конвергенции с течением времени в контрольных показателях между организациями с высокими и низкими расходами; некоторые из них могут происходить естественным образом. Но CMS следует действовать осторожно в этом отношении и помнить, что окончательный успех MSSP зависит от широкого участия разнообразной группы организаций.

Список высокого риска | U.S. GAO

Обновление: В нашем всеобъемлющем отчете о Законе CARES от 9 th руководство и координация действий Министерства здравоохранения и социальных служб (HHS) в чрезвычайных ситуациях в области общественного здравоохранения определены как высокий риск из-за значительных и давних проблем.На протяжении более десяти лет мы обнаруживали постоянные недостатки в руководящей роли HHS в подготовке и реагировании на чрезвычайные ситуации в области общественного здравоохранения, включая COVID-19 и другие инфекционные заболевания, такие как пандемия гриппа h2N1, вирусы Зика и Эбола, а также экстремальные погодные явления. например, ураганы.

HHS также столкнулся с проблемами, связанными с установлением четких ролей и обязанностей и обеспечением четкой и последовательной коммуникации с ключевыми партнерами и общественностью. (Ранее мы определили эту тему как новую проблему в нашем отчете о высоком риске за 2021 год.)

Список высокого риска — это список федеральных программ и операций, которые уязвимы для мошенничества, расточительства, злоупотреблений и бесхозяйственности или нуждаются в преобразовании. Список публикуется каждые 2 года в начале каждой новой сессии Конгресса, и за последние 15 лет федеральное правительство получило более 575 миллиардов долларов финансовой выгоды.


Наш список высокого риска на январь 2021 года содержит 36 областей высокого риска. С 2019 года мы добавили в список две области:

.
  • Чрезвычайные кредиты для малого бизнеса .Администрация малого бизнеса предоставила кредиты и авансы на сотни миллиардов долларов, чтобы помочь малым предприятиям оправиться от экономических последствий COVID-19. Хотя эти кредиты помогли многим малым предприятиям, необходимо уделять больше внимания этим средствам и контролировать их из-за рисков мошенничества.
  • Национальные усилия по предотвращению, реагированию и восстановлению после злоупотребления наркотиками . Национальные показатели злоупотребления наркотиками увеличились за последние два десятилетия и имели разрушительные последствия.Мы обнаружили несколько проблем в ответе федерального правительства на этот вопрос, таких как необходимость более эффективного руководства и координации национальных усилий, стратегического руководства, отвечающего всем законодательным требованиям, а также более эффективной реализации и мониторинга.

С 2019 года было улучшено семь областей, и мы удалили одну из этих областей – управление инфраструктурой поддержки Министерства обороны США в связи с прогрессом Министерства обороны США в решении этой проблемы. Например, министерство обороны США более эффективно использовало арендованные площади, сократило площадь своей инфраструктуры и расходы.Кроме того, 20 областей показали незначительные изменения.

Тем не менее, 5 областей ухудшились:

Кроме того, в этом отчете мы выявили две возникающие проблемы:

Эти две проблемы еще не включены в наш список высокого риска, но наша запланированная работа в этих областях может привести к тому, что в будущем мы отнесем эти проблемы к категории высокого риска.