完成牌照区域的定位后，再将牌照区域分割成单个字符，然后进行识别。字符分割一般采用垂直投影法。由于字符在垂直方向上的投影必然在字符间或字符内的间隙处取得局部小值的附近，并且这个位置应满足牌照的字符书写格式、字符、尺寸限制和一些其他条件。利用垂直投影法对复杂环境下的汽车图像中的字符分割有较好的效果。
字符识别方法目前主要有基于模板匹配算法和基于人工神经网络算法。基于模板匹配算法将分割后的字符二值化,并将其尺寸大小缩放为字符数据库中模板的大小，然后与所有的模板进行匹配，后选佳匹配作为结果。基于人工神经元网络的算法有两种：一种是先对待识别字符进行特征提取，然后用所获得特征来训练神经网络分配器；另一种方法是直接把待处理图像输入网络，由网络自动实现特征提取直至识别出结果。
红外光路线是指利用车牌反光和红外光的光学特性，用红外摄像机采集车辆灰度图像，由于红外特性，车辆图像上几乎只能看见车牌，然后用黑白图像处理方法识别车牌。950nm的红外照明装置可抓拍到很好的反光车牌照图像。因红外光是不可见光，它不会对驾驶员产生视觉影响。另外，红外照明装置提供的是不变的光，所抓拍的图像都是一样的，不论是在一天中明亮的时候，还是在一天中暗的时候。的例外是在白天，有时会看到一些牌照周围的细节，这是因为晴朗天气时太阳光的外光波的影响。采用红外灯的缺点就是所捕获的车牌照图像不是彩色的，不能获取整车图像，并且严重依赖车牌反光材料。
一个车牌识别系统是否实用，重要的指标是识别率。国际交通技术作过的识别率指标论述，要求是24小时全天候全牌正确识别率85%～95%。信路通的车牌识别系统在实际应用中已经达到了全牌正确识别率90%以上。
为了测试一个车牌识别系统识别率，需要将该系统安装在一个实际应用环境中，全天候运行24小时以上，采集至少1000辆自然车流通行时的车牌照进行识别，并且需要将车辆牌照图像和识别结果存储下来，以便调取查看。然后，还需要得到实际通过的车辆图像以及正确的人工识别结果。
识别速度决定了一个车牌识别系统是否能够满足实时实际应用的要求。一个识别率很高的系统，如果需要几秒钟，甚至几分钟才能识别出结果，那么这个系统就会因为满足不了实际应用中的实时要求而毫无实用意义。例如，在高速公路收费中车牌识别应用的作用之一是减少通行时间，速度是这一类应用里减少通行时间、避免车道堵车的有力保障。