인공 지능의 윤리적 활용 필요성

인공 지능의 시대가 도래했다. 하지만 인공 지능으로 사회 발전에 기여할 방법이 있을까?

작성 및 확인 심리학자 Sara González Juárez.

마지막 업데이트: 06 5월, 2023

인류의 이익에 반하는 특정 종류의 지능에 맞서는 환상을 재현한다. 인공 지능의 윤리적 사용 문제 는 현재 전환점에 와 있다. 이러한 기술적 진보는 전례 없는 발전을 약속하지만 또한 숙고가 필요하며 행동할 가치가 있는 특정한 도전과 어려움이 있다.

이런 가속화된 변화는 새로운 형태의 지능을 따라잡기 위해 고군분투하는 사회적 성격의 일련의 문제를 발생시켰다. 어떤 조처가 필요한가?

우선, 인공 지능을 사용할 때 도덕적, 법적 제한을 설정해야 한다. 그렇지 않으면 문명의 발전이 정반대로 갈 수 있다.

인공 지능의 윤리적 활용

인공 지능(AI)와 그 사용에 관한 논쟁은 광범위하고 복잡하며 이와 관련하여 특정 도덕규범에 대한 합의가 있다.

1. 인류의 이익을 위한 인공 지능

‘Real Academia de Ciencias Morales y Políticas’에 발표된 기사는 인본주의적 관점에서 인공 지능이 인류의 피할 수 있는 고통을 최소화하는 임무가 있다고 주장한다. 여기서 인공 지능의 악의적 사용이라는 개념이 작용한다. 이러한 프로그램의 오용이 사회에 제기하는 잠재적인 위험을 의미한다.

따라서 인류의 안전은 물론 환경의 프라이버시와 정체성이 보장되어야 한다. 그렇지 않으면 인류의 이익을 보장해야 한다는 원칙이 위반된다.

2. 데이터 독재 피하기

빅 데이터 수집은 의료 기술과 경제 발전만큼이나 이질적인 분야의 발전을 이끄는 원동력이다. 그러나 인류를 왜곡하고 분리하는 데 데이터가 사용된다면 ‘데이터 독재’가 발생한다고 CSIC는 주장한다.

인공 지능은 새로운 치료 결과 또는 건강 문제 발생률에 대한 방대한 자료를 수집할 수 있다. 이 시나리오에서 보험사가 견적이나 보장을 제공하기 위해 이 데이터에 접근하는 것에 관한 윤리성을 검증해야 한다.

3. 인공 지능의 윤리적 활용: 신경권 존중

빅 데이터는 또한 인간의 행동을 예측하는 데 사용될 수 있지만 마케팅 분야에서 악용될 수 있다. 따라서 인공 지능을 윤리적으로 사용하려면 이러한 데이터가 사용자 신원이나 인지 자유에 영향을 미치는 도구가 되어서는 안 된다. 즉, 신경권을 존중해야 한다.

인공 지능 분야에서는 뇌 데이터 수집, 저장, 분석, 활용에 있어서 신경권이 존중되어야만 한다. 개인의 뇌 데이터를 수집하기 전에 명시적 동의를 얻어야 하며 데이터 프라이버시와 기밀성을 보호하면서 윤리적이고 책임감 있게 사용해야 한다.

또한 신경권에 대한 존중은 인공 지능이 정체성, 인지적 자유 또는 자율성을 조작하거나 부당하게 영향을 미치는 데 사용되지 않아야 한다.

뇌 데이터를 기반으로 한 차별, 낙인 또는 조작도 피해야 한다. 또한 인공 지능 기반 의사 결정 및 조치가 투명하고 설명 가능하며 공정해야 하지만 인공 지능이 작동하는 모델 대부분이 불투명하므로 지키기 어렵다. 인공 지능이 어떤 식으로 정보를 수집하는지 잘 모르는 사람들이 많다.

4. 인간의 존엄성 보존

특정 직업, 특히 돌봄을 제공하는 직업은 인공 지능 및 로봇에 적합하지 않다. 공감과 존중의 능력이 필요하기 때문이다. 개인에게 인공 지능이 지시하는 치료를 받거나 경찰이나 판사 역할을 맡기는 것은 윤리적이지 않다.

로봇의 공감 개념은 인간의 감정과 의식의 특성에 과한 흥미로운 도전 과제다. 로봇은 인간의 표정, 목소리 톤 및 기타 감정적 신호를 인식하고 반응하도록 프로그래밍할 수 있지만 인간과 같은 방식으로 감정을 경험하고 이해할 수 없다.

‘Economía y Sociedad’에 발표된 연구에서는 지능형 기술에 감정 관리에 고유한 기능이 부여되고 있다고 설명한다. 결과적으로 인간과 마찬가지로 도덕적 의무와 그 의무를 구현하는 시나리오 사이의 모순에 빠진다.

5. 소스 공개 유지

인공 지능 주제에 관한 우세한 진술은 코드가 공개되어야 한다는 생각이다. 또한 사람들의 삶, 사회적 구성, 문화에 직접적인 영향을 미치는 기술이므로 소수의 손에 그 개발이 맡겨져서는 안 된다. 투명성을 보장하고 AI의 악의적인 사용을 방지해야 한다.

인공 지능의 윤리적 활용 필요성

국가 안보에서 앱 사용, 정치에서 의학까지, 인공 지능 사용은 편견 없이 윤리적으로 검토해야 한다. 인공 지능을 악의적으로 사용하면 사회에 대한 위협을 유발하거나 증가할 뿐만 아니라 부정적인 결과를 심화한다.

인공 지능이 세계와 문화를 변화시키기 때문에 책임감과 올바른 사용 문화를 개발한다. 많은 사람의 생각과 달리 사이버 보안 조처 외에도 할 일이 많다.

그러한 책임 있는 문화를 촉진하는 것은 첫 단계에 불과하다. 인공 지능의 윤리 경영을 위한 정부와 기업의 대책 마련이 필수다. 도덕적 성찰은 이미 시작되었으며 ‘Derecho Global’에서 언급한 바와 같이 이와 관련하여 일부 발전이 있었다.

인공 지능이 인본주의적 목적을 충족하는지가 중요다. 현재 인류를 지배하는 모든 인공 지능 뒤에는 인간 지능이 있다.