2.1.6. AI 사용 시 해결 과제 및 위험

인공지능은 도움을 주는 강력한 도구지만, 책임감 있게 사용해야 한다.

 

AI 사용에 있어 개발자가 직면하는 잠재적인 문제 및 위험

1. 바이어스(Bias)는 결과에 영향을 줄 수 있음
   - 대출 승인 모델은 학습된 데이터의 바이어스로 인해 성별에 따라 차별
2. 오류로 인해 해로울 수 있음
   - 자율 주행 차량에서 시스템 오류로 인한 충돌 발생
3. 데이터 노출
   - 의료 진단 봇이 환자의 데이터로 학습되지만 이러한 중요한 데이터가 안전하지 않게 저장되어 있음
4. 해결 방법이 모든 사용자에게 작동되는것이 아닐 수 있음
   - 홈 오토메이션 도우미는 시각 장애가 있는 사용자를 위한 오디오 출력을 제공하지 않음
5. 사용자가 복잡한 시스템을 신뢰해야 함
   - AI 기반 재무 도구는 투자 권장 지침을 제공해야하는데, 이러한 권장 사항의 기준이 무엇일까
6. AI 기반 결정의 책임 문제
   - 안면 인식에 의한 증거에 따라 죄없는 사람이 범죄자로 지목되었음. 누구의 책임인가