自然环境下，汽车图像背景复杂、光照不均匀，如何在自然背景中准确地确定牌照区域是整个识别过程的关键。对采集到的视频图像进行大范围相关搜索，找到符合汽车牌照特征的若干区域作为候选区，然后对这些侯选区域做进一步分析、评判，后选定一个佳的区域作为牌照区域，并将其从图象中分割出来。
字符识别方法目前主要有基于模板匹配算法和基于人工神经网络算法。基于模板匹配算法将分割后的字符二值化,并将其尺寸大小缩放为字符数据库中模板的大小，然后与所有的模板进行匹配，后选佳匹配作为结果。基于人工神经元网络的算法有两种：一种是先对待识别字符进行特征提取，然后用所获得特征来训练神经网络分配器；另一种方法是直接把待处理图像输入网络，由网络自动实现特征提取直至识别出结果。
实际应用中，牌照识别系统的识别率与牌照质量和拍摄质量密切相关。牌照质量会受到各种因素的影响，如生锈、污损、油漆剥落、字体褪色、牌照被遮挡、牌照倾斜、高亮反光、多牌照、假牌照等等；实际拍摄过程也会受到环境亮度、拍摄亮度、车辆速度等等因素的影响。这些影响因素不同程度上降低了牌照识别的识别率，也正是牌照识别系统的困难和挑战所在。为了提高识别率，除了不断的完善识别算法，还应该想办法克服各种光照条件，使采集到的图像利于识别。
一个车牌识别系统是否实用，重要的指标是识别率。国际交通技术作过的识别率指标论述，要求是24小时全天候全牌正确识别率85%～95%。信路通的车牌识别系统在实际应用中已经达到了全牌正确识别率90%以上。 为了测试一个车牌识别系统识别率，需要将该系统安装在一个实际应用环境中，全天候运行24小时以上，采集至少1000辆自然车流通行时的车牌照进行识别，并且需要将车辆牌照图像和识别结果存储下来，以便调取查看。然后，还需要得到实际通过的车辆图像以及正确的人工识别结果。
一个车牌识别系统的后台管理体系，决定了这个车牌识别系统是否好用。清楚地认识到重要的一点是识别率达到是不可能的，因为车牌照污损、模糊、遮挡，或者天气也许很糟（下雪﹑冰雹﹑大雾等等）。后台管理体系的功能应该包括：
1、识别结果和车辆图像数据的可靠存储，当多功能的系统操作使得网络出差错时能保护图像数据不会丢失，同时便于事后人工排查；
2、有效的自动比对和查询技术，被识别的车牌照号码要同数据库中成千上万的车牌号码自动比对和提示报警，如果车牌照号码没有被正确读取时就要采用模糊查询技术才能得出相对“佳”的比对结果；
3、一个好的车牌识别系统对于联网运行，还需要提供实时通信、网络安全、远程维护、动态数据交互、数据库自动更新、硬件参数设置、系统故障诊断。
设备架设
1、影像监控区域距离摄像机架设位置距离大约30M~50M位置。
2、摄像机架设高度大约2.8M，如果架设高度越高离影像监控区域距离拉远，因为相关摄像机的取像俯角不能太大(大约15度)。
3、使用镜头时务必要注意一般路口监控使用的镜头有两种规格6~60&10~100MM。
4、取像的角度要尽量将车牌及汽车的位置放大而不要将旁边的景物带入屏幕内避免曝光效果过大或是造成车牌不清楚。
5、如果夜间使用红外线(IR)功率一定要大，因为汽车的车灯也属于红外线光谱的一种，要避免曝光效应只有将IR的功率加大发挥IR的功效。