아이공의 AI 공부 도전기

RuntimeError: value cannot be converted to type uint8_t without overflow: -0.233718


혹시 conv를 돌리다 이런 에러가 뜨지 않으시나요?

그렇다면 여러분은 normalize를 하지 않았다는 사실을 깨달으셔야합니다.


이미지 데이터는 0~256의 숫자로 되어있기 때문에 이 값들을 normalize를 하셔서 넣어야 작동하는 것을 확인할 수 있습니다.


만약 정수값을 넣는다면 uint로는 float를 할당할 수 없기 때문에 위와 같은 에러가 생깁니다.


고로 normalize를 0~1 혹은 -1~1 사이의 값으로 변환한 뒤 conv를 통과시켜 보세요

공유하기

facebook twitter kakaoTalk kakaostory naver band
loading