之前写了一篇关于opencv模型下鱼眼相机的反推公式,并没有去实现opencv的普通针孔相机的畸变处理.
那就没办法了,只能去处理他的畸变问题.但是做的时候才发现,还跟之前做的不一样,之前因为变量只有一个r,现在的变量变成了x,y两个未知数
我不禁陷入了沉思...
不过好在我并不是做数学题,只是实际应用求解...
最后还是自己实现了,实现方式还是牛顿迭代法,因为畸变本身相差就不会太大,所以分别求x,y迭代的时候假设另外一个值是正确的...
最终数据x,y覆盖了-1~1的值去做测试用例,大部分用例能满足期望的精度,暂时就这样实现了...
(毕竟其他办法我也没想到/(ㄒoㄒ)/~~)
最后附上一个我提问的知乎链接,后面我自己附上了解决方案...
https://www.zhihu.com/question/597681359
之前我写了一篇关于针孔相机和鱼眼相机从3维坐标转换为2d相机的uv坐标的公式步骤.
同样的,当我们已知图片的uv坐标时,是可以反推出在3d场景下以相机位置为起点的一条射线的(也就是得到一个向量值)
原理就是根据正向的公式进行反推,反推过程中也遇到一些坑,这里记录一下步骤和关键点
注意这里只是鱼眼相机的反推,针孔的畸变处理大同小异,实际项目里偏差很小,并未实现,将来如果实现了再补充.
这里最复杂的处理要数第3步根据r_d得到实际的r值,本质就是因为鱼眼相机导致的真实入射角偏移.
https://blog.csdn.net/qq_16137569/article/details/112398976
这篇博客的最后有提到是求thera角的一元高次方程,不过具体的实现公式并没有详细给出,还是稍微有一点坑需要注意的:
因为我们前面把相机3维相机归一化,所以这边根据半径的反正切值就是thera角度,具体公式为thera=arctan(r)
之前讲过opencv里面鱼眼相机的畸变矫正r_d = theta(1+k1*theta^2+k2*theta^4+k3*theta^6+k4*theta^8)
所以得出r_d和r的关系是r_d = arctan(r)+k1*arctan(r)^3+k2*arctan(r)^5+k3*arctan(r)^7+k4*arctan(r)^9
接下来要根据牛顿迭代法来求r的近似解,
牛顿迭代法公式为f(xn+1) = xn - f(xn)/f'(xn)
根据上面的公式,可以得到f(r) = arctan(r)+k1*arctan(r)^3+k2*arctan(r)^5+k3*arctan(r)^7+k4*arctan(r)^9-r_d = 0
arctan(r)的导数为1/(1+x^2);x^n的导数为n*x^(n-1)
推出f'(r) = 1/(1+r^2)+3*k1*arctan(r)^2/(1+r^2)+5*k2*arctan(r)^4/(1+r^2)+7*k3*arctan(r)^6/(1+r^2)+9*k4*arctan(r)^8/(1+r^2)
然后第一步令 r0=r_d
计算r1=r0-f(r0)/f'(r0)
然后计算r1-r0的绝对值,如果值大于阈值(如0.000001),则计算r2=r1-f(r1)/f'(r1)
以此类推一直迭代到r(n)-r(n-1)的绝对值在阈值以下(非常接近0)或者迭代了很多次(如15次)
实现的关键代码
const r_d = Math.sqrt(Math.pow(sx, 2) + Math.pow(sy, 2))
const e = 1-e6
let c = 0
let x = r_d
let y = getNextX(r_d, x, k1, k2, k3, k4)
while (Math.abs(x - y) > e && c < 10) {
x = y
y = getNextX(r_d, x, k1, k2, k3, k4)
c++
}
const r = x
const s = r_d / r
// 修正值
const rx = sx / s
const ry = sy / s
function getNextX(r_d: number, x: number, k1: number, k2: number, k3: number, k4: number) {
const atanX = Math.atan(x)
const derAtanX = 1 / (1 + Math.pow(x, 2)) // 1/(1+x^2)
const fx =
atanX + k1 * Math.pow(atanX, 3) + k2 * Math.pow(atanX, 5) + k3 * Math.pow(atanX, 7) + k4 * Math.pow(atanX, 9) - r_d
const der_fx =
derAtanX +
3 * k1 * Math.pow(atanX, 2) * derAtanX +
5 * k2 * Math.pow(atanX, 4) * derAtanX +
7 * k3 * Math.pow(atanX, 6) * derAtanX +
9 * k4 * Math.pow(atanX, 8) * derAtanX
const nextX = x - fx / der_fx
return nextX
}去年一年有点忙,很长一段时间没有写博客,新的一年里我要立个flag给自己找点事情干干:
去年在公司的项目里我实现了一套基于2d canvas的图形框架库.自我感觉做的还可以,但是还是有不少设定上的遗憾在项目里已经不太好改,希望我能重头再写一套图形框架,对整体架构有更深的理解.拭目以待看看我能走到哪一步
这段时间在优化3d场景坐标(x,y,z)映射到相机的2d图片(u,v)的代码.在之前的实现里,我这边前端实现了无畸变的坐标转换,但是在一些畸变比较大的图片里,坐标点显示偏差较大,功能无法使用.
之前我们标注平台的3d立方体映射到相机图片上是通过后端计算,对需求的实时性上面有很大的影响.于是近期我在尝试前端去实现相机畸变的矫正研究.
https://zhuanlan.zhihu.com/p/94445955
首先我网上搜索相机畸变方面文章,主要参考了知乎,然后咨询了一下作者本人,
大概理解了坐标转换的原理和顺序:
已知世界坐标(x,y,z)
1.根据相机矩阵转换为相机坐标(x相,y相,z相) z轴正方向为相机朝向,x轴向右,y轴向下
2.坐标归一化得到 (x归,y归,1) = (x相/z相,y相/z相,1)
3.得到距离 r = sqrt(x归^2+y归^2)
4.这时候进行相机畸变调整 得到x',y'
x' = x归*(1+k1*r^2+k2*r^4+k3*r^6)+2*p1*x归*y归+p2*(r^2+2*x归^2)
y' = y归*(1+k1*r^2+k2*r^4+k3*r^6)+2*p2*x归*y归+p1*(r^2+2*y归^2)5.(x',y',1)乘以相机内参得到最终(u,v)值
开发完成后,发现有一部分照片的畸变调整还是不行,反而更离谱
仔细调试代码+借阅后台代码进行查看
发现后台是根据不同相机做不同处理的,于是再次询问了上面知乎的作者Mver,确定了鱼眼相机的处理逻辑和普通针孔相机处理逻辑不一致,又翻阅了关于鱼眼相机畸变处理的资料
https://zhuanlan.zhihu.com/p/577186117
https://blog.csdn.net/qq_39642978/article/details/112758040
得到结论
已知世界坐标(x,y,z)
转换为相机的相对坐标
相机坐标归一化(x相/z相,y相/z相,1) => (x归,y归,1)
计算 r = sqrt(x归^2+y归^2)
计算 theta = atan(r)
计算矫正 r_d = theta(1+k1theta^2+k2theta^4+k3theta^6+k4*theta^8)
计算 scale = r_d / r
计算 x' = x归 scale ; y' = y归 scale
(x',y',1) 乘以相机内参得到图片像素(u,v)
其中做到第5布计算矫正r_d的时候,卡住了我一晚上没成功,最终通过另外一个博客得到正解(上面博客介绍应该也是对的,只不过参数值和opencv不同)
https://blog.csdn.net/qq_16137569/article/details/112398976
到这步总算所有畸变都处理成功,最终测试成功时,那一刻感到从心底升起的喜悦,只感觉神经气爽,海阔天空
我想这就是高级多巴胺吧,是让我能在求知的路上一路前进的动力来源.O(∩_∩)O
在这里感谢Mver的帮助,虽然他肯定不知道
我们在web端用js计算一些较为复杂耗时的运算时,常常需要用到Web Worker技术.他能够在子线程中运算,最终将结果返回主线程,使得主线程不会卡死.特别是3d场景游戏中,Web Worker使用会不可或缺.
在公司项目里,我有负责的canvas引擎开发中,经常会碰到一些需要用worker多线程的复杂运算场景.然而因为是引擎库,我更希望的是不将worker单独编译成一个js文件引入.
我这边的处理是将worker的代码变成字符串,然后通过Blob动态引入,具体代码如下:
const script = `...` // worker 代码
const workerBlob = new Blob([script],{type:'text/javascript'})
const url = URL.createObjectURL(workerBlob)
const worker = new Worker(url)
return worker到这里我们就可以把worker的代码打包进其他js文件,而不是单独的worker文件了,然而这样做最大的问题是些代码很不方便,并且不好调试(worker的代码往往涉及复杂的数学公式和逻辑运算)
我这边的做法是本地开发时,使用单独的worker js文件开发,只有在打包的时候,先将代码预处理成字符串,然后再通过Blob动态引入,关键代码如下:
export function getWorker(fileName:string){
if ( IS_DEV ) {
// 调试
const FileWorker = require(`worker-loader!../worker/${fileName}.worker.js`)
const worker = new FileWorker.default()
return worker as Worker
} else {
// 打包
const scriptWorker = require(`../worker-lib/${fileName}.worker.js`)
const script = scriptWorker.default
// ... 跟上面的Blob方式一致
}
}
预处理的node程序参考如下:
generate-worker.js
const inputPath = './src/lib/worker'
const outputPath = './src/lib/worker-lib'
var fs = require('fs')
var path = require('path')
var filePath = path.resolve(__dirname,inputPath)
var copyFilePath = path.resolve(__dirname,outputPath)
fileDisplay(filePath,copyFilePath)
function fileDisplay(filePath,copyFilePath){
fs.mkdirSync(copyFilePath)
const fileList = fs.readdirSync(filePath)
for (let i = 0;i< fileList.length;i++) {
const fileName = fileList[i]
const fileDir = path.join(filePath,fileName)
const text = fs.readFileSync(fileDir,'utf-8')
const scriptText = `const script = \`${text}\`; export default script`
const writeFilePath = path.join(copyFilePath,fileName)
fs.writeFileSync(writeFilePath,scriptText,{ encoding:'utf-8' })
}
console.log('generate worker over')
}
然后再package.json中添加generate命令,用来生成worker字符串:"generate":"rimraf ./src/lib/worker && node generate-worker.js"
然后在打包的命令前面运行generate,例如:npm run generate && npm run build
现在解决了在worker里调试js代码的问题,但是你要非常注意的使用js代码,因为这块js代码是不会经过babel编译,而是直接输出,很有可能调试的时候好好的,但是打包出来有问题(使用了浏览器还不支持的语法)
我这边给出的解决方案是直接用ts写worker代码,然后通过tsc命令将ts文件编译成js文件后,再调用我们写的generate-worker.js将js代码转成字符串,最后调用打包命令,打包已经转成字符串的代码.
我自己的worker目录管理:
ts写的worker文件位置: src/lib/worker
tsc编译成js文件的目录: src/lib/worker-template-lib
generate生成worker字符串的目录:src/lib/worker-lib
tsc命令: "rimraf ./src/lib/worker-template-lib && tsc --outDir ./src/lib/worker-template-lib src/lib/worker/* "
worker.ts 代码修改: const FileWorker = require(worker-loader!../worker/${fileName}.worker.ts)
generate-worker.js里面inputPath修改: const inputPath = './src/lib/worker-template-lib'
到这一步应该差不多能完美解决调试和打包 worker的需求了
有的时候我们写three.js自定义shaderMaterial的时候希望看一下three自带材质的着色器代码,但是源码里面都是代码片段,有时候读起来不是那么方便,这个时候可以在引入的源码或者node_modules里通过修改代码输出查看:
1: 打开引用的three.js或者node_modules下的three/build/three.module.js文件
搜索'*FRAGMENT*'
源码位置:
...
const vertexGlsl = versionString + prefixVertex + vertexShader;
const fragmentGlsl = versionString + prefixFragment + fragmentShader;
// console.log( '*VERTEX*', vertexGlsl );
// console.log( '*FRAGMENT*', fragmentGlsl );
const glVertexShader = WebGLShader( gl, 35633, vertexGlsl );
const glFragmentShader = WebGLShader( gl, 35632, fragmentGlsl );
...取消注释即可 (VERTEX:顶点着色器,FRAGMENT:片元着色器)