지난 7월, 뉴욕시는 고용 결정에 인공지능을 사용하는 것에 관한 미국 최초의 법률(NYC Law 144)을 위반하는 기업을 공식적으로 단속하기 시작했습니다.
뉴욕시에 기반을 두고 있지 않지만 뉴욕시에 사업장과 직원을 두고 있는 회사, 특히 글로벌 기업이라도 이 새로운 규정을 준수해야 합니다. 법은 AI를 명시적으로 금지하지는 않지만 채용 결정을 내릴 때 기술을 어떻게 사용해야 하는지에 대한 지침을 제공합니다.
그것은 중요한 차이점입니다. 다양한 산업(의료, 제조, 소매 등)의 조직에서는 이미 다양한 방식으로 지능형 기술을 사용하고 있습니다. 예를 들어 AI를 사용하여 암을 높은 수준으로 진단하는 데 도움을 주는 종양학자, 물류 및 소비자 경험을 개선하기 위해 구매 패턴을 예측하는 제조 및 소매업, 오늘날 녹음되는 거의 모든 음악은 가수의 음조를 수정하거나 향상시키기 위해 자동 조정을 활용합니다.
인사 문제와 관련하여 기업은 현재 AI를 사용하여 관련 후보자를 올바른 직무에 연결하고 있으며 이것이 NYC 144의 초점입니다. 여러 차례 연기된 후, 새로운 법은 채용 공고가 계속 높아지고 실업률이 역사적 최저치에 가까워지는 시점에 많은 기업을 다소 불안하게 만들었습니다.
규제해, 응
Microsoft의 사장인 Brad Smith와 Google의 CEO인 Sundar Pichai와 같은 굵은 글씨체의 기술 이름은 규제 프레임워크를 승인했습니다. 투명성은 항상 좋은 것입니다. 피차이는 파이낸셜타임스에 “나는 여전히 AI가 규제하지 않는 것이 너무 중요하고 잘 규제하지 않는 것이 너무 중요하다고 믿는다”고 썼다.
반대로, 규제가 제대로 이루어지지 않으면 긍정적인 고용 프로세스의 핵심을 형성하는 통찰력 있는 정보와 맞춤형 경험을 제한하여 구직자와 채용 관리자에게 부정적인 영향을 미칠 수 있습니다.
30년 전, 채용담당자들은 책상 위에 놓인 이력서 더미를 뒤졌습니다. 지원자는 아이비리그 교육, 더미 내 위치, 이력서의 순위에 따른 약간의 행운 등 일관되지 않은 기준에 따라 선택되는 경우가 많았으며 이를 통제할 수 없었습니다. 인간의 무의식적 편견은 기술이 관련되지 않을 때 추적할 수 없는 또 다른 필터를 추가합니다.
AI는 이력서 더미의 어느 위치에 있는지에 관계없이 필요한 기술과 경험을 갖춘 개인을 올바른 역할에 연결함으로써 공평한 경쟁의 장을 만드는 데 도움이 되는 확장성과 정확성을 제공했습니다. AI는 또한 채용 담당자가 개인이 이력서에서 강조할 것이라고 생각하지 못했던 전체적인 사람과 기술을 볼 수 있도록 도와줍니다. AI는 채용 담당자나 채용 관리자가 지름길을 택하는 것을 막을 수 없습니다. 그러나 그렇지 않으면 더미에서 손실될 수 있는 관련 이력서를 표면화하여 덜 필요하게 만들 수 있습니다.
인간의 제어와 AI 지원의 결합은 두 가지 측면에서 편견에 대한 좋은 대응책입니다. 첫째, 인간의 의사결정에서 편향이 발생하는 한 가지 원인은 사람들이 비전통적인 배경을 가진 지원자를 발굴하고 평가하는 데 시간과 노력을 투자하기보다는 아이비리그 출신 지원자에게만 초점을 맞추는 등 문제 해결의 지름길을 찾는 경우가 많다는 것입니다.
둘째, 부정적 영향 보고를 통한 편향 탐지를 통해 이러한 편향을 실시간으로 노출할 수 있으므로 조직은 편향된 결정을 중단하기 위한 조치를 취할 수 있습니다.
유럽에서는 사용을 제한할 수 있는 잠재적인 법률이 논의되고 있습니다. 어느 인재 확보 라이프사이클의 개인화. 이는 외부 후보자뿐만 아니라 새로운 역할로 이동하려는 이미 회사에 있는 직원의 고용 전망을 방해할 수 있습니다.
이러한 기술의 고삐를 강하게 당기면 실제로 다음과 같은 결과가 발생할 수 있습니다. 더 왜냐하면 불완전한 인간이 의사결정 과정을 단독으로 담당하게 되기 때문입니다. 평등고용기회위원회(Equal Employment Opportunity Commission)가 고용, 해고 또는 승진에 있어 차별이 있을 경우 회사에 경고한 이후 뉴욕법에 따라 벌금이 부과될 수 있으며 추가 연방 처벌이 부과될 수 있습니다. AI의 도움을 받습니다.
두려움 너머를 바라보며
완벽한 법률은 없으며 NYC의 새로운 법안도 다르지 않습니다. 한 가지 요구 사항은 대부분의 사람들이 읽거나 이해하지 않고 클릭하는 웹사이트의 쿠키 알림이나 최종 사용자 라이센스 계약(EULA)과 같이 AI가 사용되고 있음을 후보자에게 알리는 것입니다.
단어가 중요합니다. AI 사용 알림을 읽을 때 개인은 기술이 인류를 압도하는 영화에서 묘사된 종말 이미지를 쉽게 떠올릴 수 있습니다. 두려움을 불러일으키는 신기술의 사례는 셀 수 없이 많습니다. 1800년대에는 전기가 안전하지 않다고 여겨졌고, 자전거가 처음 소개되었을 때는 무모하고 보기 흉하며 안전하지 않다는 인식이 있었습니다.
설명 가능성은 모범 사례일 뿐만 아니라 이 규정의 핵심 요구 사항입니다. 두려움을 최소화하고 알림을 개선할 수 있는 방법이 있습니다. 명확하고 간결하게 만들고 법적 전문 용어를 최소한으로 유지하여 의도한 청중이 사용 중인 AI를 소비하고 이해할 수 있도록 합니다.
지금 AI 규정을 준수하세요
누구도 의도적으로 뉴욕의 법을 어기고 싶어하지 않습니다. 따라서 법률 고문과 협력할 때 비즈니스 리더를 위한 세 가지 권장 사항은 다음과 같습니다.
- 알림 내용과 사용자 경험을 검토하세요. 구직자에게 이러한 기술의 사용을 쉬운 영어로 얼마나 잘 설명하고 있습니까? 아인슈타인은 “간단히 설명할 수 없다면 충분히 이해하지 못한 것이다”라고 말했습니다. 채용 사이트에서 알고리즘을 사용하고 있음을 사람들에게 알리세요. 예를 들면 다음과 같습니다. “우리가 수집하는 내용은 다음과 같습니다. 이를 사용하는 방법은 다음과 같습니다. 사용하지 않는 방법은 다음과 같습니다. 사용을 제어할 수 있는 방법은 다음과 같습니다.”
- 규제 프로세스에 참여하고 즉시 참여하십시오. 규제보다 앞서서 규정을 준수할 수 있는 유일한 방법은 앞으로 무슨 일이 일어날지 아는 것입니다. 이는 유럽의 일반 데이터 보호 규정(GDPR)에 따른 문제였습니다. GDPR 준수 기간은 2018년 5월에 시작되었습니다. 대부분의 기업은 준비가 되어 있지 않았습니다. 처벌은 꽤 컸습니다. 리더십과 경영진 수준에서 같은 생각을 가진 조직 및 정부 기관과 협력하여 배운 교훈을 뉴욕법에 적용하십시오. 이를 통해 조직이 대화에 참여할 수 있을 뿐만 아니라 정책, 절차 및 관행에 대한 의견을 반영하고 조정할 수 있습니다.
- 감사 준비가 되어 있어야 합니다. 전체 프로세스를 살펴보고 기술 제공업체와 협력하여 이러한 도구가 권장 사항을 제공하는 위치를 파악하고 공정성과 책임이 적용되는지 확인하세요. 뉴욕에서는 기업에 독립적인 AI 감사관을 둘 것을 요구합니다. 감사는 오랫동안 회계, IT 보안, 연방 건강 정보 개인정보 보호 등 비즈니스 환경의 일부였습니다. 다음 질문은 누가 감사자를 감사하는가입니다. 이는 정부뿐만 아니라 해당 분야에 전문성을 갖춘 민간, 공공기관으로 구성된 기구가 있어야 합리적인 지침을 마련할 수 있느냐 하는 문제로 귀결될 것입니다.
따라서 귀하의 프로세스를 파악하고 내부 감사를 준비하고 이 모든 것에 대해 직원을 교육하십시오.
하나의 국가, 하나의 법
기업 지도자들에게 제가 드리는 마지막 주의 사항은 자신만의 규정을 통해 뉴욕주의 지침을 따를 수 있는 주 의원들을 지켜보라는 것입니다. 우리는 AI 반편향 법안에 대해 50가지 버전을 가질 수 없습니다. 연방정부가 개입하여 주들을 하나로 모아야 합니다. 뉴욕과 캘리포니아 사이에는 이미 차이가 있습니다. 네바다주와 콜로라도주, 그리고 다른 주에서는 무슨 일이 일어날까요? 주 의원들이 법률을 패치워크로 만들면 기업은 준수하는 것뿐만 아니라 운영하는 것도 어려워질 것입니다.
주 의회 의원과 규제 기관은 접경 주의 동료들과 연결하여 HR에서 AI를 어떻게 처리하고 있는지 물어보는 것이 현명할 것입니다. 왜냐하면 주들이 국경을 공유한다면 구직자를 공유하기 때문에 서로 협력하는 것이 더 나을 것이기 때문입니다.
국회의사당 의원들은 AI 법률 작업에 관심을 표명했지만, 그것이 어떤 모습일지, 고용에 관한 언어가 포함될지 여부는 현재로서는 알 수 없습니다.
파괴적인 기술은 입법 과정에 비해 빛처럼 빠르게 움직입니다. 우려되는 점은 하원과 상원이 법안을 발의할 때쯤에는 어떤 법안이 통과되든 그 기술이 요구 사항을 훨씬 뛰어넘게 될 것이라는 점입니다. 그러면 그것은 입법이라는 햄스터 바퀴가 됩니다. 척 슈머(Chuck Schumer) 뉴욕 상원의원은 “AI는 매우 빠르게 움직이기 때문에 매우 어려운 문제”라고 말했다. 그의 말이 딱 맞아요. 연방 의원들이 주보다 앞서야 하는 이유는 더욱 많습니다.
채용 및 승진 프로세스는 AI 시스템에 대한 데이터와 사용자 입력이 더 많아질 경우에만 개선됩니다. 우리는 왜 다시 돌아갈까요?
Cliff Jurkiewicz는 글로벌 전략 담당 부사장입니다. 신동.
