Οι ιστορικοί υποστηρίζουν ότι ο πρώτος παίκτης γκολφ ήταν πιθανώς ένας βοσκός, που μια μέρα από τη βαρεμάρα του σε κάποια κοιλάδα της Σκωτίας, χτύπησε με την γκλίτσα του μια πέτρα και την πέταξε μακριά. Χτύπησε κι άλλες και «εντελώς τυχαία, μία από τις πέτρες μπήκε σε μια τρύπα», έγραψε ο θρυλικός αθλητικογράφος Herbert Warren Wind το 1948. Όταν εμφανίστηκε ένας δεύτερος βοσκός για να ανταγωνιστεί τον πρώτο, ή ίσως μόλις ο ένας από τους δύο άρχισε να βρίζει την πέτρα του που έπεσε σε λάθος σημείο, εφευρέθηκε το γκολφ.
Οι πρώτες κατασκευασμένες μπάλες γκολφ από άνθρωπο που έχουν βρεθεί, είναι πρωτόγονες μπάλες από σκληρό ξύλο που ανακαλύφθηκαν στην ανατολική ακτή της Σκωτίας τον 14ο αιώνα. Στις αρχές του 1600, οι παίκτες χρησιμοποιούσαν μπάλες από δέρμα αγελάδας γεμισμένες με φτερά χήνας. Όταν έβρεχε, το δέρμα συρρικνωνόταν και τα φτερά διογκώνονταν, και αυτή η χοντροκομμένη μπάλα φαινόταν να έχει καλό flight για εκείνη την εποχή, επιτρέποντας στους παίκτες να κάνουν ευθείες βολές.
Η ιδέα για μια σημαντικά βελτιωμένη παραλλαγή ήρθε τη δεκαετία του 1840. Ο Robert Paterson, ένας νεαρός Σκωτσέζος φοιτητής θεολογίας, εντυπωσιάστηκε από τις δυνατότητες της γουταπέρκα, μιας αποξηραμένης ρητίνης από το δέντρο σαποδίλα της Μαλαισίας, την οποία ανακάλυψε ως προστατευτικό υλικό σε ένα πακέτο από τη Σιγκαπούρη που περιείχε ένα άγαλμα ενός ινδουιστικού θεού. Ο Paterson ζέστανε τη ρητίνη σαποδίλα και την έπλασε μέχρι να σχηματίσει μια σφαίρα, την οποία στη συνέχεια έβαψε λευκή. Η λεγόμενη gutty ball ήταν πιο ελαστική, πιο εύκολη στον έλεγχο και πολύ πιο φθηνή, καθιστώντας το παιχνίδι πιο προσιτό.
Ο εφευρέτης της σύγχρονης μπάλας ήταν ο Coburn Haskell, ο οποίος είχε την ιδέα ενώ περπατούσε στο εργοστάσιο καουτσούκ B.F. Goodrich στο Akron του Οχάιο. Βλέποντας σωρούς από ελαστικό υλικό, ο Haskell είχε την ιδέα να τυλίξει μερικά από τα ελαστικά νήματα σε μια μπάλα του γκολφ. Τελικά, ο Haskell πρόσθεσε έναν συμπαγή ελαστικό πυρήνα και ένα κάλυμμα. Ο θρυλικός γκολφέρ Bobby Jones, συνιδρυτής του Augusta National Golf Club και του Masters Tournament, περιέγραψε τη μπάλα Haskell , που κυκλοφόρησε για πρώτη φορά στην αγορά το 1901, ως την πιο σημαντική εξέλιξη στην ιστορία του αθλήματος. Ωστόσο, ο Jones ήταν δυσαρεστημένος με το γεγονός ότι η μπάλα Haskell απαιτούσε λιγότερη δεξιότητα και περισσότερη δύναμη για μακρινές βολές και παραπονέθηκε ότι χρειάζονταν μεγαλύτερα γήπεδα για να καλύψουν τις μεγαλύτερες αποστάσεις που έφταναν οι νέες μπάλες.
Οι παίκτες του γκολφ ανακάλυψαν τελικά ότι οι φθαρμένες μπάλες γκολφ έφταναν πιο μακριά από τις καινούργιες. Σύντομα προστέθηκαν οι εσοχές — μεταξύ 300 και 500 — αφού οι επιστήμονες επιβεβαίωσαν ότι αυτές οι μπάλες είχαν ελάχιστη αντίσταση από τον αέρα και η αυξημένη περιστροφή της δημιουργεί μεγαλύτερη άνωση. Τα τελευταία χρόνια οι γκολφέρ έχουν αρχίσει να βελτιώνουν το παιχνίδι τους χρησιμοποιώντας έξυπνες μπάλες γκολφ, με ενσωματωμένους αισθητήρες που επιτρέπουν στους παίκτες να συγκεντρώνουν αναλυτικά στοιχεία για τα χτυπήματά τους, να εντοπίζουν τα δυνατά και αδύνατα σημεία του παιχνιδιού τους και, φυσικά, να εντοπίζουν τις χαμένες μπάλες.
Για πολλούς γκολφέρ, αυτές οι καινοτομίες κάνουν το παιχνίδι πιο ελκυστικό και ακόμη και εθιστικό, επιτρέποντας στους αρχάριους σε δημόσια γήπεδα να εκτελούν χτυπήματα και putts που οι παίκτες που αγωνίζονταν στα αμμώδη γήπεδα της Σκωτίας πριν από 600 χρόνια δεν θα μπορούσαν ποτέ να φανταστούν.
