Первым проектом, к которому Павел Осипович приложил руку был истребитель АНТ-5 (И-4). Задание требовало от конструкторов построить истребитель способный развить скорость 260 км/ч и набор высоты 5000 метров за 12 минут. Первый вариант истребителя на испытаниях не соответствовал заявленным требованиям. В НИИ выявили и недостаточную путевую устойчивость — истребитель все время тянуло вправо. И-4 (АНТ-5) в своем окончательном облике удовлетворил специалистов НИИ, давших о нем вполне благожелательное заключение, хотя и с существенными оговорками: «…с новым оперением может быть рекомендован при условии исправления недостатков.» А недостатков выявили предостаточно — 34 пункта. Среди них были и весьма существенные. Например, неразъемное нижнее крыло не позволяло отстыковать его, не снимая шасси. Неудачным признали соединение верхних половинок крыла. Выхлопные газы попадали во всасывающие патрубки карбюраторов. Капот и обтекатель винта оказались недостаточно прочны (последний треснул во время испытаний). В придачу конструкторы применили три различных способа крепления разных частей капота. Недостаточно жесткими были моторама и обтекатели дисков колес. Комплект приборов не совпадал по типам с утвержденным УВВС (Управление военно-воздушных сил) списком, поскольку в ЦАГИ (Центральный аэрогидродинамический институт имени профессора Н. Е. Жуковского) поставили те, что имелись, либо те, что укладывались по габаритам. В ЦАГИ готовился к выпуску второй экземпляр «дублер». На нем планировалось устанавливать более мощный двигатель от французской компании «Gnome-Rhone» 9Aq в 480 л.с. производившиеся по лицензии от 28 марта 1928 года.
Пройдя череду модернизаций самолет был введен в 1929 году. Новыми истребителями собирались оснастить в первую очередь Белорусский военный округ и Краснознаменную Кавказскую армию. По планам на Белорусский военный округ планировали сосредоточить 75 И-4. Однако планы были далеки от реальности, за период с 1929-33 годы планировалось закупить порядка 180 И-4. К 20 сентября 1929 года было из 77 самолетов завод смог предоставить лишь 32, но военная приемка смогла принять лишь 2 самолета. Остальные самолеты имели различные дефекты.
К 1930 году планы по производству истребителей также не выполнялись, а многочисленные дефекты конструкции не позволили И-4 стать массовым. Истребитель не мог соревноваться с более новыми И-5, И-7 и по некоторым параметрам уступал своему предшественнику И-4. К октябрю 1931 года, когда сдали последние 11 истребителей этого типа (всего их построили 177 серийных и 2 опытных), И-4 составляли около четверти парка истребительной авиации ВВС РККА, значительно уступая по численности И-3. К 1935 году И-4 уже окончательно устарел.
Его легко обгоняли бомбардировщики, а не то что истребители. Ни в каких войнах он не участвовал, если не считать одной машины, действовавшей против басмачей в Средней Азии. 17 октября 1935 года был подписан приказ о снятии И-4 с вооружения. Последние самолеты этого типа были сданы 119-й эскадрильей в Баку в связи с получением истребителей И-16. Устаревшие истребители было предписано сдать в авиашколы или разобрать на запчасти. В школы передали чуть больше трех десятков машин, которые прослужили там около двух лет, пока не были вытеснены И-5, ставшими основными учебными истребителями периода тридцатых годов.
