AI의 대부 "제프리힌턴 교수"의 인공지능에 대한 경고. (기사)

기계 학습 알고리즘의 연구로 알고리즘을 개척하였으며 오늘날의 인공지능의 인공지능기술의 발전과 형성에 기여한 역할을 인정받아 "AI의 대부" 또는 "딥러닝의 대부"로 불리게 되었습니다.

 

그런 그가 갑자기 구글을 그만두고 인공 지능에 의한 충분한 안전장치 없이 개발되는 점과 치명적인 자율무기로의 발전 가능성에 의해 대규모 실업 위기와 킬러 로봇의 등장 가능성에 경고했으며 일부 본인의 업적에 후회된다고 말했습니다.

 

현재 여러 인공지능 관련 박사들의 인공지능의 발전과 개발의 목적에 대한 우려가 증가하고 있습니다.

 

 

1. Geoffrey Hinton 교수.

영국 출신의 컴퓨터 과학자이며, 현재는 AI 분야에서 세계적으로 유명한 인물 중 하나입니다. 딥러닝 기술을 개발하면서 인공지능 분야의 발전을 이끌어낸 이 인물은, 인간이 학습하는 방식을 컴퓨터가 동일하게 학습할 수 있도록 하는 기술을 개발하는 등, AI 분야에서 중요한 연구를 수행해 왔습니다.

그의 주요 연구 분야는 기계 학습 알고리즘으로, 복잡한 데이터에서 구조를 찾도록 컴퓨터에게 도구를 제공하고, 이를 통해 인간의 뇌가 학습하는 방식을 밝혀냈습니다. 그는 뉴럴 네트워크를 학습하는 데 사용되는 역전파 알고리즘을 개발한 것으로 가장 유명하지만, 그와 그의 학생들은 오늘날의 인공지능 기술의 기반을 이루는 다양한 기술을 개발하는 데 도움이 되었습니다.

이러한 연구로 그는 전 세계에서 튜링상과 같은 컴퓨터 과학 분야에서 가장 높은 명예를 받았으며, 토론토 대학교 교수직과 2013년 그의 회사를 인수한 구글의 부사장 직을 맡은 등 높은 직챗을 맡기도 했습니다. 그러나 최근 그는 인공지능 기술이 발전함에 따라 인류에게 불안 요소가 될 수 있다는 경고를 내놓으며, 그가 맡았던 구글에서도 이를 지적한 뒤 회사를 떠났습니다.

 

 

2. 야후파이낸스 기사 

Geoffrey Hinton: Who is the ‘godfather of AI’, whose warning about artificial intelligence has shaken the world?

https://finance.yahoo.com/news/geoffrey-hinton-godfather-ai-whose-161659320.html?fr=sycsrp_catchall 

Geoffrey Hinton: Who is the ‘godfather of AI’, whose warning about artificial intelligence has shaken the world?

지난 주까지 Geoffrey Hinton은 주로 그가 개발한 기술들로 알려졌습니다. 딥러닝의 선구자로, 컴퓨터가 인간과 유사한 방식으로 지식을 습득할 수 있게 하는 기술을 개발한 그의 연구는 몇십 년에 걸쳐 오늘날의 ChatGPT와 기타 기술들의 기반을 구축하는 데 큰 역할을 했습니다.

힌턴 박사는 영국에서 태어나 1970년에 케임브리지 대학에서 실험심리학 학사 학위를 받은 후 에딘버러와 서세이에서 일한 뒤 미국과 캐나다로 이동했습니다.

그의 연구는 기계 학습 알고리즘에 주로 집중되어 있으며, 컴퓨터가 복잡한 데이터에서 구조를 찾을 수 있는 도구를 만드는 것과 함께 인간 뇌가 학습하는 방식과 유사한 방식으로 컴퓨터가 학습하는 것을 보여주는 것을 목표로 하고 있습니다. 그는 신경망을 훈련시키는 데 도움을 주는 역전파 알고리즘을 개척한 것으로 가장 유명하지만, 그와 그의 학생들은 오늘날의 인공지능의 기초를 이루는 다양한 기술들을 개발하는 데 도움을 주었습니다.

이러한 연구로 그는 컴퓨팅 분야의 노벨상으로 불리는 Turing상을 비롯해 전 세계의 다양한 상을 수상하며, 2013년 구글이 그의 회사를 인수한 후 프로페서로 토론토 대학교에 재직하고 구글 부사장도 맡았습니다.

또한, 그는 기술의 발전과 형성에 기여한 역할을 인정받아 "AI의 대부" 또는 "딥러닝의 대부"라는 별명을 얻기도 했습니다.

그러나 이번 주에는 순간적으로 그의 평판이 바뀌었습니다. 그는 구글에서 일하던 직장을 그만두고, 구글과 다른 회사들이 만들고 있는 제품들이 가지는 위험성에 대해 더 자유롭게 경고할 수 있도록 하기 위해 이렇게 결정한 것입니다.

그의 경고는 극명했습니다. 그는 인공지능이 너무 빠르게 발전하고 충분한 안전장치 없이 개발되어, 대규모 실업 위기와 인공지능 로봇 등 다른 위협으로 인류를 위험에 빠뜨리고 있다는 것입니다.

그는 이러한 위험성이 "인류를 멸망시킬 수 있다"며 인터뷰에서 밝혔습니다. 그래서 그는 이러한 시스템을 더 안전하게 만들기 위해 전 세계가 노력해야 한다고 경고했습니다.

그는 "이제 일부는 자신의 삶의 업적을 후회하고 있다"며 인공지능의 상태 때문이라고 말했고, 기업들이 우리가 인식하지 못하는 비밀스러운 방식으로 훨씬 강력한 시스템을 개발하고 있을 수도 있다고 제안했습니다.

Hinton 박사는 이전부터 인공지능의 윤리에 대해 목소리를 높여왔습니다. 2017년에는 캐나다에서 발표된 공개 서한에 서명하여 치명적인 자율무기 또는 "킬러 로봇"의 도전에 대해 촉구하였습니다.

그러나 이번 주에 경고한 것은 Google에서 높은 지위에 있던 그가 떠나며 제기한 것이며, 특정한 인공지능 사례뿐만 아니라 기술 전반에 대한 우려를 표명한 점에서 두드러졌습니다.

이러한 경고는 인공지능의 발전과 성격에 대한 우려가 증가하고 있는 시기에 일어난 것입니다. Hinton 박사의 사임은 인공지능 분야의 다른 전문가들과 기술의 개발과 성격에 대한 경고들이 나오는 시점과 일치했습니다. 이들 중 하나인 Yoshua Bengio도 서명한 3월의 서한은 인공지능의 개발을 중단할 것을 요구하였습니다.

Hinton 박사는 현재의 인공지능 접근 방식이 해로울 수 있다는 견해에 동의하는 사람들로부터도 비판을 받고 있습니다. 비판자들은 Hinton 박사가 더 일찍 경고를 제기할 수 있었다고 주장합니다.

Meredith Whittaker는 구글 직원 출신으로 현재 안전한 메시징 앱 Signal의 대통령입니다. 그녀는 이전에 'AI 경고'를 울린 여성들이 부정적인 결과를 겪었다고 말했습니다.

"우리가 몇 달 동안 천 달러를 써서 변호사를 고용했을 때, 이들은 어디에 있었나요? 이들은 우리가 이 지점에 도달하기 전에 멈추기 위해 조직을 하는 동안 어디에 있었나요? Sundar가 우리를 거짓말하고 우리가 보여준 위험을 축소하면서 우리가 참여한 때, 이들은 어디에 있었나요? 이들은 연대 없이 반대하는 것에는 관심이 없습니다." 그녀는 트위터에서 이렇게 썼습니다.

"이것은 참여를 위한 순기능이 아니라, AI 최악의 부분을 막기 위해 점점 확대되는 움직임과 연대하여 이들 AI의 권력이 함께 사용될 수 있는 순간이 있었기 때문입니다. 하지만 그들은 그 권력을 그렇게 사용하지 않았습니다. 그리고 우리는 이제 여기에 있습니다."

 

 

※ 개인 생각.
작가, 번역, 요리, 예술, 문서의 작성, 프로그램 만들어 주는것이 하루가 다르게 더욱 발전하네요.
인공 지능의 발전이 일자리의 대체와 잘못된 무기로의 발전으로 치우쳐 일부 인원의 사람들의 삶에만 도움이 되는 시대가 다가왔을지도 모르겠습니다.

1. 뉴스를 보니 공무원이 챗GPT를 사용해서 동료들의 업무를 1/30로 줄였다던데 그럼 효율을 줄여 인력 감축되어야 하는 걸까요?
2. 챗GPT로 묻고 답하면 나의 생각 및 성향등의 정보가 기업 또는 인공 지능은 알텐데 괜찮은 걸까요?
3. 시간이 지남에 따라 편의점의 알바도, 마트의 직원도 식당에서 일과 계산도 기계가, 단순 프로그램 개발도 AI가, 회계 업무, 병원도 인공 지능이 진단,  운전도 차가 자율로 이동시키면 택시기사, 버스기사, 글 쓰기, 예술등 어느 직종이 남을까요?

남아나는 직업이 뭘까 고민되네요. 벌어야 AI 시대를 누리며 즐겁게 살텐데...
사용상의 편의성이 먼저 인지 다음 발전의 중간 단계 인지는 시간이 지나봐야 알겠지만 바뀌는 세상은 막을 수 없기에 더 두렵습니다.

 

# 본 글은 매수, 매도 추천이 아닙니다.
투자의 책임은 투자자 본인에게 있음을 알립니다.