自然环境下，汽车图像背景复杂、光照不均匀，如何在自然背景中准确地确定牌照区域是整个识别过程的关键。对采集到的视频图像进行大范围相关搜索，找到符合汽车牌照特征的若干区域作为候选区，然后对这些侯选区域做进一步分析、评判，后选定一个佳的区域作为牌照区域，并将其从图象中分割出来。
完成牌照区域的定位后，再将牌照区域分割成单个字符，然后进行识别。字符分割一般采用垂直投影法。由于字符在垂直方向上的投影必然在字符间或字符内的间隙处取得局部小值的附近，并且这个位置应满足牌照的字符书写格式、字符、尺寸限制和一些其他条件。利用垂直投影法对复杂环境下的汽车图像中的字符分割有较好的效果。
字符识别方法目前主要有基于模板匹配算法和基于人工神经网络算法。基于模板匹配算法将分割后的字符二值化,并将其尺寸大小缩放为字符数据库中模板的大小，然后与所有的模板进行匹配，后选佳匹配作为结果。基于人工神经元网络的算法有两种：一种是先对待识别字符进行特征提取，然后用所获得特征来训练神经网络分配器；另一种方法是直接把待处理图像输入网络，由网络自动实现特征提取直至识别出结果。
当车辆接近出入口的时候，车辆检测器会自动感应到车辆的到来，然后触发车牌识别一体机进行图像抓拍，然后将抓拍的图像发送到数据处理服务器，安装在数据服务器上的车牌识别软件对图像进行处理，定位出牌照位置，再将车牌中的字符分割出来进行识别，然后组成车牌号码保存下来，图像和车牌号码均保存在数据处理服务器上。
采用计算机视觉技术识别车牌的流程通常都包括车辆图像采集，车牌定位，字符分割，光学字符识别，输出识别结果5个步骤。车辆图像的采集方式决定了车牌识别的技术路线。目前国际ITS通行的两条主流技术路线是自然光和红外光图像采集识别。自然光和红外光不会对人体产生不良的心理影响，也不会对环境产生新的电子污染，属于绿色环保技术。
为了测试一个车牌识别系统识别率，需要将该系统安装在一个实际应用环境中，全天候运行24小时以上，采集至少1000辆自然车流通行时的车牌照进行识别，并且需要将车辆牌照图像和识别结果存储下来，以便调取查看。然后，还需要得到实际通过的车辆图像以及正确的人工识别结果。