데이터와 AI (4) - 인공지능 윤리

인공지능이 우리의 삶 속으로 깊숙이 파고들수록 생활이 편리해지기도 하지만, 고민해보아야 할 점들도 생겨납니다. 데이터를 다루거나 인공지능을 만들 때 어떤 문제들이 있는지 알아보고, 함께 생각해볼까요?

인공지능의 공정성

첫 번째 시간에 배운 내용을 떠올려보세요.

인공지능은 '무엇을' 학습한다고 하였나요? 바로 데이터입니다.

인공지능의 기술력은 뛰어나지만, 결국 사람이 어떤 데이터를 선택해서 제공하는 지에 영향을 받을 수 밖에 없어요.

그 데이터에 사람들의 편견이 들어가 있다면 인공지능도 편견을 가진 채 판단을 내릴 수 밖에 없겠죠?

영상을 통해 확인해봅시다.

https://www.ebssw.kr/edc/cultursens/cultursensMvpView.do?alctcrSn=56312&cntntsSn=23528&stepSn=55496&lctreSn=1834651&pageIndex=1 (이솦스페셜)

인공지능의 도덕적 판단

인공지능은 사람처럼 상황에 따라 다른 선택을 하거나, 같은 상황에서도 대상에 따라 다른 판단을 내리거나 하지 못합니다.

예를 들어 손이 다친 친구를 도와주기 위해 친구의 말을 대신 받아써 준 학생에게 숙제를 대신해줬다는 결과만 보고 벌을 줄 수 있을까요?

인공지능은 프로그램이기 때문에 사람처럼 도덕적인 판단을 내리고, 의도를 생각하고, 다양한 면을 고려하기 어려워요.

모럴 머신

모럴 머신은 인공지능에 필요한 데이터 수집을 위해 만들어진 플랫폼입니다.

모럴 머신에서는 반드시 하나의 선택을 내려야 하지만, 어떤 선택도 누군가의 희생이 따르기 때문에 논란이 될 수 있는 어려운 상황을 제시해요.

예를 들어 아래와 같은 상황이라면 인공지능은 어떤 선택을 해야 할까요? 어느 것도 고르기 어렵겠지만 하나만 반드시 선택해야 한다면?

법을 잘 지킨 할머니와 법을 어긴 어린이. 인공지능은 법을 준수하는 사람을 지켜야 할까요, 어린 아이를 지켜야 할까요?

인공지능 자동차를 운전하면서 분명 생길 수 있는 일입니다.

이 때 인공지능이 어떤 판단을 내릴지는 인공지능을 만드는 사람의 생각이 반영될 수 밖에 없어요.한 명의 기준으로 선택하기 너무 어려운 일이겠죠?

모럴 머신은 이와 비슷한 상황을 보여주고, 가능한 많은 사람들의 의견을 모아 도덕적 기준을 정하고, 인공지능에 반영하려고 해요.

우리도 의견을 한 번 보태볼까요?

인공지능의 도덕적 판단에 나의 의견 더하기

모럴 머신을 체험해봅시다. 오른쪽 위의 언어 선택에서 한국어를 선택하고, 체험 시작 버튼을 누르면 시작!

선택하기 어렵겠지만, 각각 자신이 옳다고 판단하는 상황을 골라주세요. 상황은 총 13가지가 나옵니다.

배운 내용 정리하기

아래 활동지의 빈 칸을 채우며 오늘 배운 내용을 복습해봅시다. 다음 시간부터는 인공지능을 활용한 다양한 프로그램을 체험해보겠습니다.

머신러닝의 규칙 찾기 정답

지난 시간 퀴즈의 정답을 알아봅시다.

정답은

12시간을 기준으로 답을 찾는 문제입니다.

16+9=25, 12시간을 두 바퀴 돌아서 1이 됩니다.

8+6=14, 2가 됩니다.

14+13=27, 3이 됩니다.


정답인 7+7=14는 12시간을 기준으로 하면 2가 됩니다.

정답은

앞 숫자 ※ 뒤 숫자의 규칙은 앞 숫자부터 시작해서 뒤 숫자의 개수만큼 더하는 것입니다.

5 ※ 2 = 11 은 5부터 2개, 즉 5 + 6 입니다.

2 ※ 4 = 14 는 2부터 4개, 즉 2 + 3 + 4 + 5 입니다.

3 ※ 2 = 7 은 3 + 4 입니다.

4 ※ 5 = 30 은 4 + 5 + 6 + 7 + 8 입니다.


그럼 8 ※ 4 는 8 + 9 + 10 + 11 입니다.


따라서 정답은 38 입니다.

💻다른 이야기도 만나보세요🔊