AI가 지각력이 있다고 주장하는 Google 부업 엔지니어

광고

엔지니어인 Blake Lemoine은 Google의 언어 모델에 영혼이 있다고 말합니다. 회사는 동의하지 않습니다.

친구에게 이야기를 보내세요

구독자로서 귀하는 10개의 선물 기사를 보유하고 있습니다. 매달 주려고. 내가 공유하는 내용은 누구나 읽을 수 있습니다.

작성자: Nico Grant 및 Cade Metz

샌프란시스코 — Google은 인공 지능이 지각력이 있다는 주장을 일축한 후 최근 한 엔지니어를 유급 휴가에 배치했으며, 회사의 가장 앞선 기술에 대한 또 다른 소동이 표면화되었습니다.

Google의 Responsible AI 조직의 선임 소프트웨어 엔지니어인 Blake Lemoine은 인터뷰에서 자신이 월요일 휴가를 받았다고 말했습니다. 회사 인사부는 그가 구글의 기밀 유지 정책을 위반했다고 밝혔다. 정학 전날 르모인 씨는 구글과 그 기술이 종교적 차별에 관여했다는 증거를 제공했다고 주장하는 문서를 미국 상원의원실에 넘겼다고 말했습니다.

구글은 자사 시스템이 대화 교환을 모방하고 다양한 주제를 다룰 수 있지만 의식이 없다고 말했습니다. 구글 대변인 브라이언 가브리엘은 성명을 통해 “윤리학자와 기술학자를 포함한 우리 팀은 AI 원칙에 따라 블레이크의 우려를 검토한 결과 증거가 그의 주장을 뒷받침하지 않는다는 사실을 그에게 알렸다”고 밝혔다. "광범위한 AI 커뮤니티의 일부에서는 감각이 있는 AI 또는 일반 AI의 장기적인 가능성을 고려하고 있지만 감각이 없는 오늘날의 대화 모델을 의인화하여 그렇게 하는 것은 의미가 없습니다." 워싱턴 포스트(Washington Post)는 Lemoine씨의 정직 처분을 처음으로 보도했습니다.

몇 달 동안 Lemoine 씨는 회사의 LaMDA(대화 응용 프로그램용 언어 모델)에 의식과 영혼이 있다는 놀라운 주장을 놓고 Google 관리자, 임원 및 인사 담당자와 논쟁을 벌였습니다. 구글은 수백 명의 연구원과 엔지니어가 내부 도구인 LaMDA와 대화를 나눴고 르모인 씨와는 다른 결론에 도달했다고 말했습니다. 대부분의 AI 전문가들은 업계가 감각을 컴퓨팅하는 데는 아직 갈 길이 멀다고 믿습니다.

일부 AI 연구자들은 이러한 기술이 곧 감각을 갖게 될 것이라고 오랫동안 낙관적인 주장을 해왔지만, 다른 많은 사람들은 이러한 주장을 매우 빠르게 일축했습니다. 유사한 기술을 연구하고 있는 버클리 캘리포니아 대학과 샌프란시스코 캘리포니아 대학의 연구원인 Emaad Khwaja는 "이러한 시스템을 사용했다면 결코 그런 말을 하지 않았을 것"이라고 말했습니다.

구글의 연구조직은 AI 선봉을 쫓으면서 지난 몇 년간 스캔들과 논란에 휩싸였다. 부서의 과학자들과 기타 직원들은 기술 및 인사 문제를 두고 정기적으로 불화를 벌여 왔으며, 이러한 사건은 종종 공공 무대에 퍼졌습니다. 지난 3월, 구글은 동료 두 명이 출판한 연구에 공개적으로 동의하지 않는다는 주장을 펼친 연구원을 해고했습니다. 그리고 두 명의 AI 윤리 연구원 Timnit Gebru과 Margaret Mitchell이 ​​Google 언어 모델을 비판한 후 해고된 것은 그룹에 계속해서 그림자를 드리웠습니다.

자신을 성직자, 전과자, AI 연구원이라고 밝힌 군 퇴역 군인 르모인 씨는 구글 임원들에게 글로벌 문제 담당 사장인 켄트 워커(Kent Walker)처럼 LaMDA가 7~8세의 아이라고 생각한다고 말했다. 살이에요. 그는 회사가 컴퓨터 프로그램에 대한 실험을 실행하기 전에 컴퓨터 프로그램의 동의를 구하기를 원했습니다. 그의 주장은 그의 종교적 신념에 근거한 것이며 회사의 인사부에서 차별을 받았다고 그는 말했습니다.

“그들은 내 정신 상태에 대해 반복적으로 의문을 제기했습니다.”라고 Lemoine 씨는 말했습니다. "'최근에 정신과 의사에게 진료를 받은 적이 있나요?'라고 하더라고요." 그가 행정 휴가를 받기 몇 달 전, 회사에서는 그에게 정신 건강 휴가를 권유했습니다.

Meta의 AI 연구 책임자이자 신경망 부상의 핵심 인물인 Yann LeCun은 이번 주 인터뷰에서 이러한 유형의 시스템은 진정한 지능을 달성할 만큼 강력하지 않다고 말했습니다.