Первые два опытных Аr.196 V1 (заводской #2589 D-IEНQ) и V2 (#2590 D-IНQI) были закончены к лету 1937 года. Это были двухпоплавковые самолеты планируемой А серии, а третий и четвертый Аr.196 V3 (#2591 D-ILRЕ) и V4 (#2592 D-ОVМВ) относились к В серии с одним основным и двумя подкрыльевыми стабилизирующими поплавками.
Опытные самолеты были оснащены двигателями ВМW 132Ds мощностью 880 лс на взлете с двухлопастным винтом изменяемого шага. На Аr.196 V1 сначала стояли сдвоенные выхлопные патрубки, выведенные под левый борт. Позже они были сокращены по длине и разделены на левый и правый борт. Такой вариант стал стандартным. Аr.196 V2 отличался некоторой переделкой руля направления, получившего роговую компенсацию, и водяных рулей. Аr.196 V3 отличался только поплавками. Аr.196 V4 отличался от последнего переделанными стабилизирующими поплавками с меньшим аэродинамическим сопротивлением и меньшим количеством подкосов. На нем также было установлено неподвижное вооружение для стрельбы вперед, хотя в задании оно не оговаривалось. Самолет получил две крыльевые 20 мм пушки МG-FF с 60 снарядами на ствол и 7,9 мм синхронный пулемет на правом борту фюзеляжа с 500 патронами. Под крыльями можно было подвесить по одной 50 кг бомбе SС 50.