在做项目的时候,要保留5位小数,所以有行MATLAB代码
a=double(int16(b*10000))/10000;
这样梁成大错。
int16最大不能超过2^15;
int32最大不能超过2^32;
int64最大不能超过2^64;
因为有b的值为7.5,所以7.5*10000>2^15,所以最后得到的数据全是错的。
以后要注意哦,避免再犯
上一篇 c++冒泡排序
下一篇 吴恩达作业(4)tensorflow搭建三层神经网络以及应用--识别手势
版权所有 ©2023-2025 051e.com
ICP备案号:京ICP备12030808号