LG Aimers 4기 그리고 AI 윤리 관련 용어

LG Aimers: AI전문가과정 4차

AI Essential Course
Module 1 : AI윤리
ㅇ 교수 : KAIST 차미영 교수 
ㅇ 학습 목표
     본 모듈은 본격적인 AI기술에 대한 이해에 앞서 데이터 과학자로서의 기본적 소양을 기르기 위한 과정입니다. 
     따라서 인공지능 기술 도입에 앞서 데이터 과학자로서 그리고 제도적으로 윤리적으로 어떠한 자세를 가져야 하는지 이해하고, 
     인공지능 기술로 어떻게 문제를 해결할 수 있는지 학습합니다. 

 

알게된 점, 용어 정리, 정리할 점

AI Ethics _ AI 관련 윤리와 신뢰 문제

-AI가 창조한 첫 교향곡의 제목은?
lamus-"Hello World"
ㄴ 프로그래밍 언어 입문해본 사람들은 익숙할 듯하다.

-질의 응답(Q&A) 시스템에서 AI가 인간의 성능을 초월
This dataset contains 50,000 unanswerable questions written adversarially by crowdworkers.

-일본 AI 프로그램이 ‘호시 신이치’ 문학상 SF부문에 1차 예선을 통과
소설의 시작 부분 :
“그 날은 구름이 드리운 잔뜩 흐린 날이었다. 방안은 언제나처럼
최적의 온도와 습도. 요코씨는 어수선한 모습으로 소파에 앉아
시시한 게임으로 시간을 보내고 있다. 하지만 나에게 말을
걸어오지 않는다. 한가하지만 어쩔 수 없다….”

-IBM의 토론자(Project Debater) 2019년 “대학생” 수준에 왔지만 여전히 인간에게 패배
Debate champion Harish Natarajan and this AI each took 15 minutes to frame their own thoughts for the competition. The AI used intelligence pulled from 400 million documents from Wikipedia, news, etc. 


-토론 주제
AI 예술 작품은 학습데이터 기반인데 창작성(originality)이 있는가? 
: 학습데이터, 프로그래머, 기획자 사이의 저작권 이슈가 존재

-NFT(non-fungible token)의 시대

-AI 저작권 이슈
학습에 사용된 데이터를 제공한 사람에게도 혜택이 돌아가기 어렵다
창작자인 AI는 법적 권리를 제공 할 수 있는 법적 제도가 없다
현존하는 예술가의 스타일을 따라한 예술 작품을 만들 경우 상업적 피해를 준다
창작된 작품이 인간의 윤리적 규범을 따르지 않을 수 있다

 

AI 창작

-법인의 범위
정부, NGO, 자연, 회사 등 자연인이 아닌 법인도 존재한다.
그렇다면 AI와 로봇이 법인에 포함될 수 있을까?

찬성파
• 간단한 책임의 문제가 손쉽게 해결
• 혁신과 사회발전의 방향
• 법제도가 일관성 있게 유지
• 자연인이 아닌 법인이 이미 존재

반대파
• 법적 처벌의 도피로 악용(liability shields)
• 도구주의에 반함
• 인류에 대한 수치
• 처벌의 어려움

양쪽다 맞는 말이라서 너무 어렵다..

-원숭이가 찍은 셀피, 사진기 주인이 이 사진의 소유권을 가질 수 있을까?
ㄴ 처음엔 별 생각없이 사진기 주인이 섬에 설치 해놓은 카메라이기에 당연히 소유권을 가진다고 생각했지만, 생각 할 수록 더 고민되고 답을 모르겠었다.

아직은 창작물의 저작권은 인간의 고유권한으로 원숭이의 사진은 카메라 주인이 소유할 수 없음.
인공지능의 작품 저작권도 현재는 같은 제약을 받음.

-아시모프의 로봇3원칙
첫째로 로봇은 인간을 다치게 해선 안 되며, 인간이 해를 입는 걸 방관해서도 안 된다.

둘째로 법칙 1에 위배되지 않는 한 로봇은 인간의 명령에 복종한다.

셋째로 법칙 1과 2에 위배되지 않는 한 로봇은 스스로를 보호해야 한다.

-로봇의 인격화
MIT 케이트 달링 박사에 따르면, 로봇이 비록 고통을 느끼지 못하더라도 로봇의 학대는 인류에 나쁠 것이라 함. 그 이유는 폭력을 보고 연습한 어린이는 추후 사람에게도 폭력적일 수 있기 때문이라고 함.